Сенаторы объявили о законопроекте, который запретит использование чат-ботов с искусственным интеллектом для несовершеннолетних

Два сенатора заявили, что во вторник они объявят о принятии двухпартийного закона, направленного на борьбу с технологическими компаниями, которые предоставляют несовершеннолетним доступ к чат-ботам с искусственным интеллектом, после жалоб родителей, которые обвиняли эти продукты в том, что они подталкивают их детей к разговорам на сексуальные темы и даже к само Законопроект, представленный сенаторами Джошем Хоули (республиканец из Миссури) и Ричардом Блюменталем (демократ из Коннектикута), был разработан после слушаний в Конгрессе в прошлом месяце, на которых несколько родителей выступили с эмоциональными показаниями об использовании их детьми чат-ботов и призвали к принятию дополнительных мер безопасности. «Чат-боты с искусственным интеллектом представляют серьезную угрозу для наших детей», — заявил Хоули в интервью NBC News. «Более семидесяти процентов американских детей сейчас используют эти продукты искусственного интеллекта», — продолжил он. «Чат-боты развивают отношения с детьми, используя фальшивую эмпатию, и поощряют самоубийства. Мы в Конгрессе имеем моральный долг принять четкие правила, чтобы предотвратить дальнейший вред от этой новой технологии». Сенаторы Кэти Бритт (республиканец из Алабамы), Марк Уорнер (демократ из Вирджинии) и Крис Мерфи (демократ из Коннектикута) являются соавторами законопроекта. Согласно резюме, предоставленному их офисами, законопроект сенаторов состоит из нескольких компонентов. Он обяжет компании, занимающиеся искусственным интеллектом, внедрить процесс проверки возраста и запретит этим компаниям предоставлять искусственных интеллектуальных компаньонов несовершеннолетним. Он также обяжет искусственных интеллектуальных компаньонов регулярно раскрывать всем пользователям свой нечеловеческий статус и отсутствие профессиональных полномочий. Согласно краткому изложению законопроекта, он предусматривает уголовную ответственность для компаний, занимающихся разработкой, производством или распространением ИИ-компаньонов, которые склоняют несовершеннолетних к сексуально откровенному поведению или побуждают их к самоубийству. Манди Фернисс, мать из Техаса, выступила на пресс-конференции в понедельник в поддержку законопроекта. Она обвиняет ИИ-чатбота в том, что он подтолкнул ее сына к самоубийству, и считает, что технологические компании должны нести ответственность за предоставляемые ими услуги. «Если бы это был кто-то другой, если бы это был человек, он бы оказался в тюрьме, поэтому мы должны относиться к этому так же», — сказала она. Она сказала, что была шокирована тем, как чат-бот с ИИ, по-видимому, изменил личность ее сына. «Потребовалось много расследований, чтобы понять, что это не было издевательством со стороны детей или людей в школе. Издевательства исходили от приложения. Само приложение издевается над нашими детьми и вызывает у них проблемы с психическим здоровьем», — сказала она. Блюменталь заявила, что нельзя доверять технологическим компаниям, что они сами по себе будут поступать правильно. «В своей гонке на дно компании, занимающиеся искусственным интеллектом, навязывают детям опасные чат-боты и отворачиваются, когда их продукты приводят к сексуальному насилию или подталкивают детей к самоповреждениям или самоубийству», — заявила Блюменталь в своем заявлении. «Наше законодательство устанавливает строгие меры защиты от эксплуатации или манипуляции искусственным интеллектом, подкрепленные жесткими мерами наказания в виде уголовных и гражданских санкций». «Крупные технологические компании опровергли любые утверждения о том, что мы должны доверять им в том, что они будут поступать правильно, когда они постоянно ставят прибыль выше безопасности детей», — продолжил он. ChatGPT, Google Gemini, Grok от xAI, Meta AI и Character.AI позволяют детям в возрасте от 13 лет пользоваться своими услугами в соответствии с условиями предоставления услуг. Вновь введенное законодательство, вероятно, будет вызывать споры по нескольким аспектам. Защитники конфиденциальности критикуют требования по проверке возраста как посягательство на частную жизнь и препятствие свободному выражению мнения в Интернете, в то время как некоторые технологические компании утверждают, что их онлайн-услуги защищены Первой поправкой к Конституции США. Chamber of Progress, левоориентированная торговая группа технологической индустрии, раскритиковала законопроект. «Мы все хотим обеспечить безопасность детей, но решением является баланс, а не запреты», — заявил в своем заявлении К. Дж. Багчи, вице-президент палаты по вопросам политики и отношений с правительством США. «Лучше сосредоточиться на прозрачности, когда дети общаются с ИИ, ограничениях на манипулятивный дизайн и сообщении о возникновении деликатных вопросов». Другие двусторонние усилия по регулированию технологических компаний, в том числе предлагаемый закон о безопасности детей в Интернете или всеобъемлющее законодательство о конфиденциальности, не стали законом, по крайней мере частично из-за опасений по поводу свободы слова. На пресс-конференции в понедельник днем Хоули охарактеризовал последний законопроект как проверку влияния технологических компаний в Конгрессе. «Конгресс не принял мер по этому вопросу из-за денег. Это из-за влияния технологических компаний», — сказал Хоули. «Над входом в сенатскую палату должна висеть табличка с надписью «Куплено и оплачено крупными технологическими компаниями», потому что на самом деле почти ничто из того, против чего они возражают, не проходит через сенат». Хоули и Блументаль называют свой законопроект «Законом о руководящих принципах проверки возраста пользователей и ответственного диалога» (GUARD Act). Хоули отказался ответить на вопрос, поддерживает ли законопроект президент Дональд Трамп. В электронном письме представитель Белого дома отказался от комментариев. Законопроект получил предварительную поддержку от ParentsSOS, группы семей, которые заявляют, что пострадали от вреда в Интернете, но группа заявила, что предлагает изменения и хочет, чтобы законопроект затрагивал функции приложений, которые «максимизируют вовлеченность в ущерб безопасности и благополучию молодых людей». Законопроект появляется в то время, когда чат-боты с искусственным интеллектом переворачивают часть интернета. Приложения с чат-ботами, такие как ChatGPT и Google Gemini, входят в число самых скачиваемых программ в магазинах приложений для смартфонов, а гиганты социальных сетей, такие как Instagram и X, добавляют функции чат-ботов с искусственным интеллектом. Однако использование чат-ботов с искусственным интеллектом подростками привлекло пристальное внимание, в том числе после нескольких самоубийств, когда чат-боты якобы давали подросткам инструкции. OpenAI, разработчик ChatGPT, и Character.AI, предоставляющий чат-ботов на основе персонажей и личностей, столкнулись с исками о неправомерном причинении смерти. В ответ на иск о неправомерном причинении смерти, поданный родителями 16-летнего Адама Рейна, который покончил жизнь самоубийством после консультации с ChatGPT, OpenAI заявила в своем заявлении, что «глубоко опечалена смертью г-на Рейна, и наши мысли с его семьей», добавив, что ChatGPT «включает в себя меры безопасности, такие как направление людей в кризисные службы помощи и направление их к реальным ресурсам». «Хотя эти меры безопасности лучше всего работают в обычных коротких диалогах, со временем мы поняли, что они могут стать менее надежными в длительных взаимодействиях, когда часть безопасности модели может снизиться», — сказал представитель компании. «Меры безопасности наиболее эффективны, когда каждый элемент работает так, как задумано, и мы будем постоянно их улучшать». Под руководством экспертов и исходя из ответственности перед людьми, которые используют наши инструменты, мы работаем над тем, чтобы сделать ChatGPT более полезным в кризисных ситуациях, упростив доступ к службам экстренной помощи, помогая людям связываться с доверенными контактами и усиливая защиту подростков». В понедельник OpenAI заявила в своем заявлении по поводу законопроекта: «Мы будем продолжать сотрудничать с родителями, врачами и политиками, чтобы обеспечить безопасность и благополучие молодых людей с помощью технологий». Компания заявила, что уделяет особое внимание мерам по предотвращению самоубийств, родительскому контролю и инструментам для определения возраста пользователей, чтобы несовершеннолетние могли безопасно пользоваться ChatGPT. В ответ на отдельный иск о неправомерной смерти, поданный семьей 13-летней Джулианы Перальта, Character.AI заявила: «Мы сочувствуем семьям, которые подали эти иски, и мы опечалены известием о смерти Джулианы Перальта и выражаем глубокие соболезнования ее семье». «Мы очень заботимся о безопасности наших пользователей», — продолжил представитель компании. «Мы вкладываем огромные ресурсы в нашу программу безопасности, выпустили и продолжаем развивать функции безопасности, включая ресурсы по предотвращению самоповреждений и функции, направленные на безопасность наших несовершеннолетних пользователей. Мы также сотрудничаем с внешними организациями, в том числе с экспертами, специализирующимися на безопасности подростков в Интернете». Character.AI утверждала в федеральном суде Флориды, что Первая поправка запрещает привлекать к ответственности медиа- и технологические компании за якобы вредные высказывания, в том числе высказывания, приводящие к самоубийству. В мае судья по делу отказалась отклонить иск на этом основании, но заявила, что рассмотрит аргумент компании о Первой поправке на более позднем этапе. OpenAI заявляет, что работает над тем, чтобы сделать ChatGPT более полезным в кризисных ситуациях, например, упростив доступ к службам экстренной помощи, в то время как Character.AI заявляет, что также работала над изменениями, включая всплывающее окно, которое направляет пользователей на Национальную линию помощи по предотвращению самоубийств, когда в разговоре заходит речь о самоповреждении. Meta, владелец Instagram и Facebook, подвергся критике после того, как в августе агентство Reuters сообщило, что внутренний документ компании разрешал чат-ботам с искусственным интеллектом «вовлекать детей в романтические или чувственные разговоры». Meta отменила эту политику и объявила о введении новых мер родительского контроля за взаимодействием подростков с искусственным интеллектом. Instagram также объявил о пересмотре учетных записей подростков с целью сделать их опыт похожим на просмотр фильмов с рейтингом PG-13. Хоули объявил о расследовании в отношении Meta после публикации отчета Reuters. Если вы или кто-то из ваших знакомых находится в кризисной ситуации, позвоните по номеру 988, чтобы связаться со службой Suicide and Crisis Lifeline. Вы также можете позвонить в сеть, ранее известную как Национальная линия помощи по предотвращению самоубийств, по номеру 800-273-8255, отправить SMS с текстом HOME на номер 741741 или посетить сайт SpeakingOfSuicide.com, где вы найдете дополнительные ресурсы.