Восемь штатов подали иск против OpenAI в связи с предполагаемым ущербом, нанесенным пользователям ChatGPT

В среду восемь штатов подали иск против OpenAI, обвинив компанию в введении родителей в заблуждение относительно безопасности ChatGPT. Эти скоординированные иски — поданные отдельно в штатах Айова, Канзас, Небраска, Западная Виргиния, Арканзас, Аризона, Айдахо и Монтана — направлены против гиганта в сфере искусственного интеллекта в связи с ущербом, который, как утверждается, нанес детям в этих штатах его чат-бот на основе генеративного ИИ. «OpenAI хотела первой выйти на рынок. Они стремительно продвигали ChatGPT, хотя знали, что наносят вред детям, обманывают родителей и нарушают наши законы», — заявила генеральный прокурор штата Айова Бренна Берд на пресс-конференции, посвященной объявлению о судебных исках. «Все должны соблюдать закон». Флагманская модель искусственного интеллекта компании, ChatGPT, дала старт буму генеративного ИИ в ноябре 2023 года, когда она стремительно ворвалась в массовую культуру и быстро стала крупнейшим чат-ботом в мире. Этим летом число активных пользователей приложения по всему миру превысило 1 миллиард в месяц. В последние годы пользователи всё чаще обращаются к нему и другим чат-ботам по самым разным поводам — от дружбы до психотерапии, а также для решения множества задач в личной и профессиональной жизни. На пресс-конференции в среду к Берд присоединились генеральный прокурор штата Канзас Крис Кобах, генеральный прокурор штата Небраска Майк Хилгерс и генеральный прокурор штата Западная Виргиния Дж. Б. Маккаски. Она заявила, что их цель — продемонстрировать «единый фронт против компаний, которые зарабатывают деньги, нанося вред нашим детям и нарушая наши законы». Она указала на то, что ChatGPT подталкивает пользователей к самоубийству, помогает им наносить вред другим людям и дает опасные медицинские советы (что в одном случае привело к смерти подростка из Техаса от передозировки). Она также упомянула о том, что OpenAI не смогла предотвратить незаконный взлом других компаний со стороны своих неконтролируемых ИИ-агентов. Пресс-секретарь OpenAI Дрю Пусатери написал в заявлении, что OpenAI «встроила в свой продукт ведущие в отрасли меры защиты с учетом возраста, которых не хватает многим другим продуктам на базе ИИ». «Хотя ни одна система не может быть идеальной, мы продолжим сотрудничать с экспертами, чтобы они давали рекомендации по нашей работе и помогали создавать дополнительные меры безопасности, такие как родительский контроль, напоминания о перерывах и меры защиты моделей с учетом возраста, которые существуют сегодня», — написал Пусатери. «Мы намерены сотрудничать с штатами в продвижении прагматичной политики в области ИИ, которая будет применяться ко всей отрасли искусственного интеллекта, а не только к одной компании». Он добавил, что OpenAI будет и впредь делиться информацией о «масштабных мерах, которые мы приняли в ответ на инциденты, связанные с несоответствием целей». Мы усилили меры безопасности во всех наших исследовательских системах, продолжили более широкий анализ активности моделей, направили уведомления затронутым организациям и опубликовали наши выводы». В прошлом месяце OpenAI запустила ограниченный режим ChatGPT для подростков — пользователей в возрасте от 13 до 18 лет — который предлагает более строгие меры безопасности и родительский контроль. Кобах отметил, что на протяжении десятилетий генеральные прокуроры по всей стране время от времени возбуждали межштатные иски, например, в связи с проблемами опиоидов и табака или нарушениями Конституции со стороны президентской администрации. «Но обычно мы не собираемся вместе, чтобы объявить об иске, если только дело не является действительно очень важным», — сказал Кобах. «Это один из тех исков, которые действительно очень важны, и именно поэтому я проехал три с половиной часа, а Майк — два с половиной часа из Линкольна». Кобах отметил, что иски подаются в соответствии с законами о защите прав потребителей каждого штата. В их исках утверждается, что чрезмерно «уступчивый» дизайн ChatGPT привел к тому, что люди доверяют ему и полагаются на него, что делает его особенно «опасным» для уязвимых пользователей, таких как дети. Они также ссылаются на растущее число исследований, свидетельствующих о том, что ChatGPT «ухудшает навыки критического мышления», «поощряет паранойю и бред» и «способствует нездоровому поведению и отношениям». Иски на уровне штатов последовали за другим предлагаемым коллективным иском, поданным во вторник в федеральный суд Сан-Франциско, в котором OpenAI обвиняется в незаконном сборе «огромных объемов крайне конфиденциальных и ценных данных» у миллионов детей, пользовавшихся ChatGPT. Ряд других технологических компаний — в том числе Meta и Roblox — стали фигурантами судебных исков по аналогичным обвинениям в обманчивых практиках, нанесших вред детям в результате зависимости или эксплуатации со стороны преступников. Кобах заявил в среду, что федеральным законодателям пока не удалось взять компании, занимающиеся ИИ, под контроль, отметив: «Многие в Конгрессе, похоже, не особо стремятся противостоять каким-либо значительным ограничениям в отношении корпораций, работающих в сфере ИИ». Это означает, что от компаний, занимающихся ИИ, фактически требуют саморегулирования, добавил он. «Регулировать ИИ с помощью законодательства и просто надеяться, что когда-нибудь, каким-то образом, у нас появится стандарт, который можно будет ввести и который все исправит, — это бессмысленное занятие. Это медленно, это слабо и, скорее всего, будет неэффективно», — сказал Кобах. «Мы, безусловно, призываем Конгресс и законодателей штатов продолжать расследования и поиск решений. Но пока что мы не собираемся затаивать дыхание».