Медицина на дому: опасность диагнозов, поставленных искусственным интеллектом, и основные риски, по мнению эксперта

Искусственный интеллект стал инструментом, к которому ежедневно обращаются миллионы людей. Среди его многочисленных применений все чаще встречаются случаи, когда пользователи описывают ему симптомы, делятся изображениями или просят дать рекомендации относительно возможных заболеваний. Однако использование этих систем вместо визита к врачу может представлять риск. В ходе репортажа, показанного на канале LN+, кардиолог Хорхе Тартаглионе проанализировал опасности, связанные с диагнозами, поставленными искусственным интеллектом, и указал на некоторые из его основных ограничений. Среди основных проблем — происхождение информации, отсутствие научных доказательств, предвзятость и невозможность провести всестороннее обследование пациента. «Не стремясь демонизировать технологию и её достижения, специалист пояснил, что речь идёт о выдающемся достижении, сопоставимом с другими великими прорывами человечества, но предупредил, что его ответы не следует интерпретировать как окончательные диагнозы или использовать для исключения потенциально серьёзных заболеваний». В своей колонке Тартальоне упомянул об иске, поданном в США пастором, который утверждал, что получил ошибочный диагноз от ChatGPT. По словам врача, инструмент якобы преуменьшил серьезность состояния, в результате чего у мужчины развилась легочная эмболия. «Ему сказали, что это ерунда, а у него случилась легочная эмболия». «Это вызывает массу вопросов по поводу такого чудесного явления, как искусственный интеллект», — пояснил он. «Этот случай демонстрирует одну из главных опасностей использования таких платформ при появлении симптомов: успокаивающий ответ может побудить пользователя отложить обращение к специалисту. При определенных заболеваниях такая задержка может помешать своевременному вмешательству». Тартальоне подчеркнул, что развитие этой технологии имеет историческое значение. «В истории человечества есть три вещи, которые являются выдающимися. Во-первых, книгопечатание. Не менее важным, чем книгопечатание, было развитие Интернета. И я считаю, что развитие искусственного интеллекта — это нечто невероятное», — заявил он. «Тем не менее, он подчеркнул, что его потенциал не устраняет существующих ограничений, особенно при использовании в вопросах, связанных со здоровьем». Первый риск, на который указал кардиолог, связан с источником данных, используемых искусственным интеллектом для формирования ответов. Пользователь получает результат, сформулированный ясно и убедительно, но не знает, из каких источников поступила информация. «Первая серьезная проблема — это источник, из которого искусственный интеллект черпает всю ту информацию, на основе которой он выдает вам результат», — заявил он. В этой связи он пояснил, что система может опираться на материалы, качество или достоверность которых не гарантированы. «Согласно данным, представленным Тартаглионе, 40,1 % результатов будут поступать с форумов или из пользовательских материалов в Интернете, а не основываться исключительно на научных исследованиях или публикациях». «Это то, что создали люди в Интернете. Она даже не берет информацию из научных статей», — предупредил он. Эта особенность повышает вероятность того, что ответы будут содержать неполную информацию, личный опыт, ошибки или рекомендации, не имеющие медицинского обоснования. «