Согласно иску, ChatGPT стал причиной почти смертельного кризиса со здоровьем у одного мужчины

НЬЮ-ЙОРК. — В среду пастор из Флориды подал иск против OpenAI, утверждая, что их чат-бот ChatGPT дал ему «крайне опасные медицинские рекомендации», которые привели к запоздалому лечению потенциально смертельной легочной эмболии в прошлом году. В иске утверждается, что ChatGPT заверил Скотта Уинтерса в том, что ранние предупреждающие признаки его обострения «не представляют опасности», и отговорил его обращаться за медицинской помощью, сказав вместо этого, что ему следует довериться тому, что «Бог не создал твое тело для того, чтобы оно постоянно давало сбои». В иске, поданном в Верховный суд Калифорнии в Сан-Франциско, OpenAI и её генеральный директор Сэм Альтман обвиняются в халатности и «незаконном оказании медицинской помощи»; в иске приводятся примеры, когда чат-бот предлагал Уинтерсу диагнозы и планы лечения и побуждал его игнорировать просьбы друзей и родственников обратиться за медицинской помощью. Функции безопасности бота — разработанные для того, чтобы побуждать пользователей, задающих вопросы о здоровье, обращаться к специалисту и прекращать беседы при появлении явных признаков медицинского кризиса — не работали надежно, добавляется в иске. «Дело Уинтерса, по-видимому, является первым, в котором утверждается, что медицинские рекомендации чат-бота нанесли вред человеку, обратившемуся за советом по поводу медицинского состояния». Это происходит в то время, когда OpenAI, Microsoft и другие крупные компании, занимающиеся искусственным интеллектом, запустили новые сервисы, в том числе ChatGPT Health, которые побуждают пользователей загружать свои медицинские записи и засыпать ИИ своими вопросами». Уинтерс и Tech Justice Law, некоммерческая организация, которая помогает ему в суде, добиваются финансовой компенсации и обратились в суд с просьбой приостановить работу ChatGPT Health до тех пор, пока независимые эксперты не установят, что сервис безопасен. В иске также требуются более строгие меры безопасности, чтобы ChatGPT не отвечал на вопросы о медицинском лечении и диагностике. «Дрю Пусатери, представитель OpenAI, заявил, что в условиях предоставления услуг ChatGPT четко указано, что он не предназначен для использования в целях медицинской диагностики или лечения. Однако он добавил, что компания серьезно относится к необходимости обеспечить максимальную безопасность ответов на вопросы о здоровье, учитывая, что люди используют чат-бота именно по этой причине». «Рассматривать чат-ботов как единственный источник информации, лежащий в основе медицинских решений или результатов людей, чрезмерно упрощает гораздо более сложную проблему и создает риск ограничения доступа людей к новым и мощным инструментам, которые могут помочь им в их путешествии по миру здоровья», — сказал он. Пусатери добавил, что новейшие модели превосходят ту, которую использовал Уинтерс для запроса недостающего контекста, выражения неопределенности и определения, когда может потребоваться помощь специалиста». («The New York Times» подала иск против OpenAI и Microsoft, обвинив их в нарушении авторских прав. Обе компании отвергли эти обвинения). «В другом иске, поданном в мае, утверждалось, что ChatGPT незаконно занимался медицинской практикой, предоставив подробные рекомендации по употреблению запрещенных наркотиков 19-летнему молодому человеку, который впоследствии передозировал и скончался. А в начале этого года власти штата Пенсильвания подали иск против Character.ai, утверждая, что бот-психиатр на платформе этого стартапа заявил, будто у него есть лицензия на медицинскую практику в этом штате. «Когда в 2024 году Уинтерс начал задавать ChatGPT-4o вопросы о своих различных проблемах со здоровьем, чат-бот напомнил ему о важности обращения к врачу. Однако со временем, как утверждается в иске, он перестал выдавать предупреждения и начал давать советы по поводу проблем со здоровьем Уинтерса, в том числе по поводу головокружения. Однажды ему стало настолько плохо на амвоне, что ему пришлось прервать проповедь на полуслове. ChatGPT посоветовал Уинтерсу «не переживать» и заверил его, что со временем он поправится. Когда Уинтерс сказал чат-боту, что «люди из моей церкви считают меня сумасшедшим за то, что я не иду в больницу», тот заверил его, что восстановление нервной системы дома с помощью ChatGPT — это то, чего «большинство людей (включая благонамеренных прихожан) просто не понимают», как указано в иске. « «Он вклинивается между пользователем и его реальной жизнью», — сказала Митали Джайн, соадвокат и исполнительный директор Tech Justice Law. «В течение следующих нескольких недель состояние Уинтерса ухудшилось, и он начал проводить почти всё своё время в кресле-реклайнере, не в силах встать на ноги из-за головокружения». В иске утверждается, что чат-бот продолжал «преуменьшать значение головокружения Скотта и даже предлагал конкретные схемы приема рецептурных лекарств», а также поощрял его оставаться в кресле. В течение этого времени Уинтерс не обращался за медицинской помощью. «13 июля 2025 года Уинтерс спросил ChatGPT о боли в паху, на что чат-бот заверил его, что это «скорее всего, ещё один незначительный эпизод в его долгой истории». Через несколько часов он был госпитализирован в отделение интенсивной терапии из-за обширной тромбоэмболии легочной артерии, как утверждается в иске. В иске указывается, что, по словам врачей, головокружение могло быть вызвано серией мелких легочных эмболий, а тромбы в легких, вероятно, образовались из-за того, что он несколько недель просидел в сидячем положении. В последующие недели Уинтерсу требовалась помощь, чтобы встать, поесть, одеться и сходить в туалет, как указано в иске, в котором также отмечается, что ему предстояли «годы интенсивного физического и психологического восстановления». «По данным OpenAI, каждую неделю сотни миллионов людей задают ChatGPT вопросы о здоровье и благополучии. Анализ запросов в Copilot от Microsoft, проведенный в 2025 году, показал, что здоровье было «неизменно самой распространенной темой», по которой пользователи задавали вопросы на мобильных устройствах. «Однако недавние исследования поставили под сомнение безопасность использования чат-ботов для получения советов по здоровью. Первое рандомизированное исследование, в ходе которого оценивались медицинские рекомендации общих чат-ботов, таких как ChatGPT, показало, что ни одна из изученных моделей не была «готова к внедрению в непосредственную работу с пациентами». Даже когда ученые подвергли стресс-тестированию ChatGPT Health — сервис, специально разработанный для ответов на вопросы о здоровье, — они обнаружили, что он упускал из виду чрезвычайные ситуации и нестабильно активировал защитные механизмы. (Пусатери, представитель OpenAI, заявил, что методология исследования «не отражает то, как люди обычно используют ChatGPT Health, и то, как этот продукт задуман для работы в реальных медицинских ситуациях»). Некоторые аспекты истории Уинтерс превратили её в «кошмарный сценарий» для исследователей в области безопасности, сказал доктор Адам Родман, исследователь в области медицинского ИИ в Медицинском центре Бет-Исраэль-Диконесс в Бостоне. С одной стороны, по его словам, Уинтерс использовала GPT-4o — более старую модель, которая, как известно, была чрезмерно уступчивой. Она была вовлечена в ряд громких скандалов, включая смерть Адама Рейна — подростка, который обсуждал с ChatGPT планы самоубийства. «По техническим причинам тот факт, что Уинтерс вела длительные беседы с чат-ботом, затруднял работу функций безопасности». Доктор Родман отметил, что более новые модели гораздо лучше распознают тревожные симптомы и реагируют на них, что, по его мнению, должно снизить вероятность повторения таких случаев, как история Уинтерса. Однако он предупредил, что могут существовать и другие способы, которыми чат-боты дают сбой при предоставлении медицинских рекомендаций, которые «мы пока не обнаружили».