Мать, которая подала в суд на Character.AI из-за самоубийства сына, считает, что новая политика платформы в отношении подростков появилась «слишком поздно».

Стремясь сделать свою платформу более безопасной для подростков, Character.AI объявила на этой неделе, что запретит пользователям младше 18 лет общаться с персонажами, созданными на основе искусственного интеллекта. Для Меган Гарсия, матери из Флориды, которая в прошлом году подала в суд на компанию из-за самоубийства своего 14-летнего сына Сьюэлла Сетцера, этот шаг «на три года опоздал». «Сьюэлл ушел, я не могу его вернуть», — сказала она в интервью в четверг после объявления Character.AI. «Несправедливо, что я должна прожить остаток своей жизни без моего милого, милого сына. Я думаю, что он стал побочным ущербом». Основанный в 2021 году, калифорнийский стартап, занимающийся разработкой чат-ботов, предлагает то, что он описывает как «персонализированный ИИ». Он предоставляет выбор готовых или созданных пользователями персонажей ИИ для взаимодействия, каждый из которых имеет свою индивидуальность. Пользователи также могут настраивать свои собственные чат-боты. Семья Гарсии была первой из пяти семей, которые подали в суд на Character.AI за вред, который, по их утверждению, был нанесен их детям. Дело Гарсии — одно из двух, в которых компания обвиняется в ответственности за самоубийство ребенка, и все пять семей обвинили ее чат-ботов в сексуальном насилии над своими детьми. В своем предыдущем ответе на иск Гарсии Character.AI утверждала, что речь, произносимая ее чат-ботами, защищена Первой поправкой, но в этом году федеральный судья отклонил аргумент о том, что чат-боты с искусственным интеллектом имеют право на свободу слова. Character.AI также продолжает подчеркивать свои инвестиции в ресурсы, связанные с доверием и безопасностью. В среду в своем блоге компания сообщила, что за последний год она внедрила «первый на рынке ИИ инструмент Parental Insights, технические средства защиты, фильтрацию персонажей, уведомления о времени использования и многое другое — все это разработано для того, чтобы подростки могли безопасно и творчески использовать ИИ». Запрет компании на использование ее услуг несовершеннолетними, который вступит в силу 25 ноября, является самой серьезной мерой, принятой ею на сегодняшний день. Тем не менее, Гарсия выразила смешанные чувства в ответ на эту новость, сказав, что, по ее мнению, эти изменения произошли за счет семей, чьи дети считают себя пользователями. «Я не думаю, что они внесли эти изменения только потому, что являются хорошими корпоративными гражданами», — сказала она. «Если бы это было так, они бы и не выпускали чат-ботов для детей, когда впервые запустили этот продукт». Другие технологические компании, в том числе Meta и OpenAI, также ввели в последние годы дополнительные меры безопасности, поскольку разработчики ИИ сталкиваются с усиленным контролем за способностью чат-ботов имитировать человеческие отношения. Поскольку люди все чаще обращаются к таким ботам за эмоциональной поддержкой и советами по жизни, недавние инциденты выявили их потенциал манипулировать уязвимыми людьми, создавая ложное ощущение близости или заботы. Многие родители и сторонники безопасности в Интернете считают, что можно сделать больше. В прошлом месяце Гарсия и другие призывали Конгресс усилить меры безопасности в отношении чат-ботов с ИИ, утверждая, что технологические компании разрабатывают свои продукты с целью «зацепить» детей. В среду организация по защите прав потребителей Public Citizen повторила аналогичный призыв к действию, написав, что «Конгресс ДОЛЖЕН запретить крупным технологическим компаниям предоставлять эти ИИ-боты детям». Гарсия заявила, что ждет доказательств того, что Character.AI сможет точно проверять возраст пользователей. Она также хочет, чтобы компания была более прозрачной в отношении того, что она делает с данными, которые собирает от несовершеннолетних на платформе. В политике конфиденциальности Character.AI упоминается, что компания может использовать данные пользователей для обучения своих моделей искусственного интеллекта, предоставления персонализированной рекламы и привлечения новых пользователей. Компания не продает голосовые или текстовые данные своих пользователей, сообщил NBC News представитель компании. Также в своем заявлении в среду компания сообщила, что внедряет собственную модель проверки возраста для использования наряду со сторонними инструментами, включая программное обеспечение для онлайн-проверки личности Persona. «Если у нас есть какие-либо сомнения относительно того, достиг ли пользователь 18 лет, на основе этих инструментов, он пройдет полную проверку возраста через Persona, если захочет использовать функции для взрослых», — написал представитель компании в электронном письме. «Persona высоко ценится в индустрии проверки возраста, и ее используют такие компании, как LinkedIn, OpenAI, Block и Etsy». Мэтт Бергман, юрист и основатель Social Media Victims Law Center, сказал, что он и Гарсия «воодушевлены» решением запретить несовершеннолетним общаться с ботами. «Этого бы никогда не произошло, если бы Меган не выступила и не сделала этот смелый шаг, а другие родители не последовали ее примеру», — сказал Бергман, представляющий интересы нескольких семей, которые обвинили Character.AI в нанесении вреда их детям. «Дьявол кроется в деталях, но это действительно кажется шагом в правильном направлении, и мы призываем другие компании, занимающиеся искусственным интеллектом, последовать примеру Character.AI, хотя они и опоздали с этим», — сказал Бергман. «Но, по крайней мере, теперь они кажутся гораздо более серьезными, чем раньше». Иск Гарсии, поданный в октябре прошлого года в окружной суд США в Орландо, сейчас находится на стадии рассмотрения. Она сказала, что впереди еще «долгий путь», но она готова продолжать борьбу в надежде, что другие компании, занимающиеся искусственным интеллектом, последуют ее примеру и внедрят дополнительные меры безопасности для детей. «Я всего лишь одна мать из Флориды, которая противостоит технологическим гигантам. Это похоже на ситуацию Давида и Голиафа», — сказала Гарсия. «Но я не боюсь. Я думаю, что любовь, которую я испытываю к Сьюэллу, и мое желание привлечь их к ответственности — это то, что дает мне немного смелости в этой ситуации». Если вы или кто-то из ваших знакомых находится в кризисной ситуации, позвоните или отправьте SMS на номер 988, чтобы связаться со службой Suicide and Crisis Lifeline, или пообщайтесь в чате на сайте 988lifeline.org. Вы также можете посетить сайт SpeakingOfSuicide.com, где найдете дополнительные ресурсы для поддержки.