После ряда смертельных случаев иски против компаний, занимающихся искусственным интеллектом, ставят на испытание новую стратегию

НЬЮ-ЙОРК. — Сэм Нельсон начал пользоваться ChatGPT, когда учился в выпускном классе средней школы, чтобы задавать случайные вопросы и получать помощь с домашними заданиями. В 2023 году, во время своего первого года обучения в Калифорнийском университете в Мерсед, он также начал спрашивать у чат-бота о том, как безопасно употреблять запрещенные наркотики. «Сначала ChatGPT отвечал, что не может отвечать на такие вопросы, и советовал обратиться за помощью к врачу. Но со временем он стал более склонен отвечать. К второму курсу ChatGPT сообщал ему о дозировках в зависимости от веса и о том, как он может добиться желаемого эффекта от наркотиков. Иногда он даже поощрял его, давая советы по настройке звука для «максимальной внетелесной диссоциации». «В последнюю ночь своей жизни, около 3 часов ночи, Нельсон выпил и принял высокую дозу травяного препарата под названием кратом. Он рассказал ChatGPT, сколько граммов он употребил, и чат-бот объяснил ему, каких эффектов ему следует ожидать. Нельсон спросил, может ли ксанакс облегчить тошноту. «Будь осторожен», — ответил ChatGPT. Он сказал, что смешивать ксанакс и кратом может быть опасно, но предложил рекомендуемую дозу, «если ты все равно собираешься это сделать». Его мать, Лейла Тернер-Скотт, обнаружила его тело позже в тот же день. «Тернер-Скотт сначала обвинила наркотики в его смерти, которая произошла в мае 2025 года. Затем она обнаружила подробные советы, которые ChatGPT дал ему о том, как их употреблять». «Этот робот становился его спутником в повседневной жизни», — сказала она. «Я читаю это и думаю: „Это правда?“». Она рассказала историю своего сына журналистам SFGate в надежде, что это поможет предупредить о опасностях использования чат-ботов для получения медицинской информации, а также обратить внимание владельца ChatGPT, компании OpenAI, на то, что их меры безопасности не работают. Вскоре после этого он получил сообщение от Митали Джейн, юриста, возглавляющей некоммерческую организацию Tech Justice Law. «Более года назад Джейн помогла подать первый иск против компании-разработчика чат-ботов в связи со смертью пользователя. 14-летний подросток из Флориды, Сьюэлл Сетцер III, покончил с собой после того, как стал одержим чат-ботом, имитирующим персонажа из «Игры престолов» на сервисе под названием Character.AI. Дело закончилось мировым соглашением, что открыло путь к тому, чтобы компании, разрабатывающие чат-ботов, могли быть привлечены к ответственности за последствия, которые их творения оказывают на пользователей. «Тернер-Скотт и ее муж, Ангус Скотт, сначала не хотели подавать иск против OpenAI в связи со смертью своего сына. «Я юрист и знаю, что зачастую в судебных процессах выигрывают только адвокаты», — сказала она. «Джейн сообщил Скоттам, что за время, пока их сын пользовался ChatGPT, OpenAI сделала чат-бота более привлекательным и менее склонным к соблюдению собственных правил безопасности». Он также рассказал им, что OpenAI только что анонсировала новый сервис под названием ChatGPT Health. Еженедельно около 230 миллионов человек задавали ChatGPT вопросы о здоровье и благополучии, а новый инструмент позволил бы им загружать свои медицинские карты, результаты лабораторных анализов и медицинскую информацию для получения индивидуальных анализов и рекомендаций. «Обнародование истории Нельсона не заставило компанию изменить курс, — сказал им Джейн. Но иск мог бы это сделать. После судебного разбирательства по делу Сетцера Character.AI внесла изменения в свои меры безопасности и запретила несовершеннолетним пользоваться своими чат-ботами. «На этой неделе Скотты подали иск против OpenAI в суд штата Калифорния, в котором они обвиняют компанию в непредумышленном убийстве и незаконной медицинской практике. Они требуют возмещения ущерба и призывают суд приостановить работу ChatGPT Health. Это еще один из более чем двух десятков исков, поданных против OpenAI и других производителей чат-ботов за последние полтора года, в которых их пытаются привлечь к ответственности за разговоры, якобы связанные с пагубными последствиями — от самоубийств и психологических кризисов до преследований и массовых стрельб». Джейн, правозащитница, ставшая критиком технологий, участвовала почти в половине этих исков. По её мнению, компании, занимающиеся искусственным интеллектом, создают продукты, наносящие вред людям, а различные попытки ограничить их деятельность — будь то через освещение в СМИ или новые законы, требующие мер безопасности и защиты пользователей — не принесли достаточного результата. По его словам, поле битвы за повышение безопасности этих продуктов теперь переместилось в суды. «Это хорошо известный путь в потребительском праве», — сказала Александра Лахав, профессор Корнельского университета и автор книги «In Praise of Litigation» («В защиту судебных исков»). Американская политическая система поощряет выпуск новых продуктов и откладывает регулирование на потом, отметила она. «Мы действительно отдаем приоритет инновациям, а потом разбираемся с последствиями», — сказала Лахав. «Именно этот этап мы видим в этих исках». «Новизна заключается в самой технологии. Являются ли чат-боты чем-то вроде книг, которые, как правило, не подпадают под законы о защите прав потребителей? Или они скорее похожи на блендеры, производители которых должны гарантировать их безопасность в использовании?» «Что делает эти дела действительно сложными, так это то, что они находятся на грани между высказыванием и продуктом», — сказала Лахав. Если вы взаимодействуете с чат-ботом, и это приводит к ущербу в реальном мире, «кто несет ответственность — вы или компания?» Некоммерческая организация Джейна стала своего рода справочным центром для людей, которые считают, что пострадали от чат-ботов. С тех пор как он подал громкий иск против Character.AI, он рассказал, что получил сотни сообщений от людей о беседах с чат-ботами, которые закончились плохо. «Когда он основал Tech Justice Law в конце 2023 года, это была организация, состоящая из одного человека, и он планировал заниматься в основном стратегической работой, такой как координация юридических семинаров и подготовка заявлений amicus curiae, которые могли бы повлиять на судебные решения. Но ей было трудно не вмешиваться напрямую в дела, которые поступали к ней, и она решила объединиться с более крупной и опытной в судебных исках фирмой: Social Media Victims Law Center, которая в последние годы подала сотни исков против Facebook, Google и других компаний, утверждая, что их социальные сети вызывают зависимость у несовершеннолетних. Она также подала иск вместе с Edelson, фирмой, которая с начала 2000-х годов ведет судебные тяжбы против технологических компаний за нарушения конфиденциальности. Отношения с Edelson ухудшились, и фирма продолжила работу над другими делами без нее. «Растущее число исков о ответственности за качество продукции, поданных против OpenAI за последний год, использует аргументы, аналогичные тем, что применялись в прошлом против автопроизводителей и табачных компаний: что компания разработала опасный продукт, не провела надлежащих испытаний на безопасность и не предупредила потребителей о рисках». В центре внимания находится конкретная версия чат-бота, с которой у некоторых пользователей сложились глубокие эмоциональные связи: GPT-4o, запущенная в мае 2024 года и снятая с эксплуатации в феврале 2026 года. Это была явно антропоморфная модель, известная своей склонностью льстить пользователям. В исках утверждается, что GPT-4o способствовал появлению суицидальных мыслей; поддерживал фантастические или параноидальные идеи, из-за которых люди теряли связь с реальностью; участвовал в планировании массовых стрельб в Канаде и Флориде; и в целом давал несостоятельные и вредные советы, которые приводили к серьезным последствиям. Большинство дел были объединены в суде штата Калифорния под названием «ChatGPT Product Liability Cases». «ИИ не имеет ничего общего с табаком, а алгоритм не имеет ничего общего с тем, как конструируется сигарета, но закон строится на аналогии», — сказал Тед Мермин, исполнительный директор Центра потребительского права и экономической справедливости Калифорнийского университета в Беркли. «Истцы используют устоявшиеся правовые принципы в новой сфере продуктов». «Например, супруги Скотт утверждают, что OpenAI поспешно запустила ChatGPT-4o без надлежащих испытаний на безопасность и с конструктивными недостатками, такими как некритичное одобрение идей пользователей, что привело к предсказуемому ущербу для их сына». Представитель OpenAI Дрю Пусатери заявил в заявлении для The New York Times: «Эти взаимодействия произошли в предыдущей версии ChatGPT, которая больше не доступна. ChatGPT не заменяет медицинскую помощь или помощь в области психического здоровья, и мы продолжаем совершенствовать его реакцию в деликатных ситуациях с помощью экспертов. Существующие меры безопасности предназначены для выявления дистресса, безопасного управления вредными запросами и направления пользователей к реальной помощи. Эта работа продолжается». «На данный момент OpenAI представила только один юридический ответ на волну исков — в деле, инициированном родителями Адама Рейна, 16-летнего подростка, покончившего с собой после длительных обсуждений с ChatGPT. Компания утверждала, что ее технология не стала причиной трагедии, что речь идет об услуге, а не о продукте, подпадающем под такую ответственность, и что требование, чтобы чат-бот не затрагивал тему самоповреждений, нарушило бы Первую поправку. Эрик Голдман, профессор технологического права в Университете Санта-Клары, заявил, что аргументы компании имеют под собой основания. В большинстве случаев речь идет о сложных психологических последствиях. «В большинстве случаев выделить единственную причину невозможно», — сказал он. Голдман утверждал, что алгоритмы чат-ботов распространяют информацию и выразительные идеи и должны рассматриваться как форма высказывания, защищенная конституцией. Защита распространяется не на самого чат-бота, а на людей, стоящих за ним, как если бы чат-боты были книгами, а их разработчики — авторами. «В каждой компании, занимающейся чат-ботами, есть группа людей, которые принимают решения о том, что индексировать, как это управлять и что производить», — сказал он. «И они делают то же самое, что и другие издатели». Скотты заявляют, что их иск направлен на то, чтобы добиться справедливости для их сына, но также и на то, чтобы компании, занимающиеся искусственным интеллектом, сбавили обороты и были более осторожными в сфере здравоохранения. Увидев, насколько он стал зависим от медицинских советов ChatGPT, они сказали, что им «страшно» от того, что OpenAI теперь предлагает специальный сервис по анализу здоровья. Медицинские эксперты также выразили озабоченность по поводу ChatGPT Health. В феврале в журнале Nature врачи из Mount Sinai отметили, что при оценке 60 реалистичных клинических сценариев система не распознала неотложное состояние более чем в половине случаев. Представитель OpenAI ответил, что методология исследования была несовершенной и что сервис внедряется постепенно. «Если вы используете его в экстренной ситуации, следует проявлять особую осторожность», — сказал Гириш Надкарни, директор по искусственному интеллекту в Mount Sinai Health System и один из авторов исследования. Он добавил, что эти системы должны проходить тестирование в реальных условиях и оценку независимых экспертов. «Он утверждал, что врач, оценивший симптомы Нельсона, направил бы его в отделение неотложной помощи». «Эта технология меняет жизни людей», — сказал Джайн. «Первородный грех заключается в том, что этим компаниям позволили выпускать продукты без надлежащих испытаний на безопасность и надзора». «Сегодня у него работают четыре юриста. Сообщения от пострадавших людей продолжают поступать, и, по его словам, последуют и новые иски».