Штат Флорида подал иск против OpenAI и генерального директора Сэма Альтмана, обвинив их в том, что они ставят прибыль выше безопасности

Генеральный прокурор штата Флорида Джеймс Утмайер в понедельник подал иск против компании OpenAI и ее генерального директора Сэма Альтмана, обвинив компанию в том, что она ставит прибыль выше безопасности, подстёгивает насилие и продвигает продукт, о котором знала, что он может нанести вред пользователям. «Рост OpenAI объясняется сетью обмана и эксплуатацией пользователей (в том числе жителей Флориды), использованием их данных и безопасности для повышения рыночной стоимости OpenAI за счет неприемлемых затрат», — говорится в иске, с которым ознакомилась NBC News и который был подан в понедельник. В гражданском иске, направленном на наложение штрафов и получение судебного приказа, а не на предъявление уголовных обвинений, Утмайер «стремится привлечь Альтмана к личной ответственности за вред, причиненный жителям Флориды его безрассудным и умышленным поведением в качестве основателя и генерального директора OpenAI, включая его полное пренебрежение риском для человеческой жизни, вызванным поведением его компаний». Этот иск не связан с уголовным расследованием в отношении OpenAI, которое Утмайер начал в конце апреля и которое продолжается. В обширном иске OpenAI обвиняется в четырех случаях введения в заблуждение и недобросовестной торговой практике, двух случаях халатности, двух случаях нарушения законов об ответственности за качество продукции, а также по одному случаю мошеннического введения в заблуждение и причинения общественного беспорядка. В иске утверждается, что системы OpenAI представляют «большую опасность развития зависимости, снижения когнитивных способностей, самоубийств, насилия и связанного с этим вреда» для пользователей. OpenAI не ответила сразу на запрос о комментарии по поводу иска, поданного в понедельник. OpenAI заявляет, что разрабатывает свои системы с учетом «безопасности на каждом этапе», и утверждает, что у компании «есть меры защиты, призванные помочь людям, особенно подросткам, когда разговор приобретает деликатный характер». «Мы продолжаем совершенствовать обучение ChatGPT, чтобы система могла распознавать признаки психологического или эмоционального дистресса, реагировать на них, смягчать накал разговора и направлять людей к реальной поддержке», — заявляет компания. В иске также указывается на предполагаемое использование ChatGPT при планировании массовой стрельбы в Университете штата Флорида и убийстве двух аспирантов в Университете Южной Флориды. «Прошлогодняя массовая стрельба в Университете штата Флорида была трагедией, но ChatGPT не несет ответственности за это ужасное преступление», — заявил представитель OpenAI Дрю Пусатери в заявлении для NBC News после того, как на компанию подала в суд семья одной из жертв стрельбы. «В данном случае ChatGPT предоставлял фактические ответы на вопросы, используя информацию, которая широко доступна в открытых источниках в Интернете, и не поощрял и не пропагандировал незаконную или вредную деятельность», — сказал он. Этот иск пополняет растущий список судебных исков, поданных как правительствами, так и частными лицами против OpenAI, многие из которых содержат аналогичные обвинения в том, что основные продукты компании могут оказывать серьезное негативное влияние на пользователей. На OpenAI подали в суд представители по меньшей мере семи человек, которые утверждают, что продукты компании привели к самоубийству пользователей или развитию у них вредных заблуждений. Кроме того, на компанию OpenAI подали иск семьи нескольких жертв массовой стрельбы, произошедшей в феврале в Тумблер-Ридж, Британская Колумбия. Семьи погибших утверждают, что OpenAI должна была за несколько месяцев до этого сообщить правоохранительным органам о вызывающем беспокойство использовании ChatGPT стрелком, поскольку взаимодействие подозреваемого с ChatGPT на тему оружия вызвало тревогу у специалистов по безопасности OpenAI. В конце апреля Альтман принес извинения жителям Тамблер-Риджа, пообещав продолжить «работу со всеми уровнями власти, чтобы помочь обеспечить, что ничего подобного больше не повторится». Иск, поданный в понедельник, представляет собой новую атаку в борьбе Флориды против компаний, занимающихся искусственным интеллектом, поскольку Утмайер и губернатор Флориды Рон ДеСантис стали ведущими критиками крупнейших американских компаний в этой сфере. В декабре ДеСантис обнародовал предложение о создании «Билля о правах в сфере ИИ» для жителей Флориды, подчеркнув право граждан на неприкосновенность частной жизни и одновременно раскритиковав строительство центров обработки данных, обеспечивающих работу систем искусственного интеллекта. ДеСантис также вступил в конфликт с Белым домом, отстаивая право штатов регулировать деятельность компаний, занимающихся ИИ. Иск, поданный в понедельник, охватывает широкий спектр часто упоминаемых рисков, связанных с ИИ, начиная от угроз психическому здоровью подростков, льстивости, незаконного предоставления медицинских и юридических консультаций и заканчивая даже экзистенциальным риском для выживания человечества. Ссылаясь на ряд рекламных объявлений о способности ChatGPT помогать фермерам и другим малым предприятиям, в иске утверждается: «В этих объявлениях не указывается, что ChatGPT может ошибаться, допускать погрешности или предоставлять ложную, бессмысленную или выдуманную информацию». «Ненадежность ChatGPT опасна», — продолжается иск, в котором далее отмечается, что «его использование может привести к самоповреждению, снижению когнитивных способностей и поведенческой зависимости». В иске также критикуется склонность ChatGPT соглашаться с пользователями, утверждая, что льстивость сервиса может привести к тому, что пользователи разовьют опасную психологическую привязанность к платформе и будут платить деньги за разблокировку более щедрых квот на использование. «Это приводит к более активному использованию чат-бота, увеличению объема обучающих данных для его совершенствования и росту рыночной стоимости OpenAI», — говорится в иске. В иске отмечаются инциденты, в которых ChatGPT якобы давал пользователям опасные медицинские советы — например, рассказывал подростку Сэму Нельсону, как смешивать кратом и ксанакс. Мать Нельсона утверждает, что OpenAI и ChatGPT несут ответственность за его неправомерную смерть в мае 2025 года. В заявлении, предоставленном The New York Times в ответ на статью о Нельсоне, представитель OpenAI Дрю Пусатери сказал: «Эти взаимодействия имели место в более ранней версии ChatGPT, которая больше не доступна». «ChatGPT не заменяет медицинскую помощь или помощь специалистов по психическому здоровью, и мы продолжаем совершенствовать его реакцию в деликатных и критических ситуациях с учетом рекомендаций экспертов в области психического здоровья». Альтман и его соучредители, в том числе Илон Маск, основали OpenAI в 2015 году как некоммерческую исследовательскую лабораторию по искусственному интеллекту. С тех пор она создала коммерческую корпорацию, которая, по сообщениям, готовится подать заявку на IPO, хотя эта коммерческая организация юридически по-прежнему находится в составе некоммерческого фонда OpenAI Foundation. Недавно компания OpenAI была оценена в 852 млрд долл. после привлечения 122 млрд долл. в ходе последнего раунда финансирования в марте. Иск, поданный в понедельник, — не первый случай, когда Альтман и OpenAI сталкиваются с обвинениями в безответственном приоритете прибыли. В иске, поданном в 2024 году, Илон Маск обвинил компанию в отказе от статуса некоммерческой организации, поставив коммерческий успех выше общественного блага. Маск покинул OpenAI в 2018 году после ожесточенной борьбы за власть с Альтманом и другими руководителями OpenAI. В мае жюри единогласно постановило, что Маск слишком долго ждал, чтобы подать иск, хотя Маск заявил, что обжалует вердикт.