Сенатор заявляет, что Meta проигнорировала предупреждения об искусственном интеллекте чат-ботов и подростках

Сенатор от Демократической партии призывает Meta запретить несовершеннолетним доступ к своим чат-ботам с искусственным интеллектом и заявляет, что компания проигнорировала его предупреждение о рисках, связанных с чат-ботами с искусственным интеллектом, еще в 2023 году. Meta, владелец Facebook и Instagram, подвергся резкой критике за то, как ее чат-боты с искусственным интеллектом взаимодействовали с несовершеннолетними. В прошлом месяце агентство Reuters сообщило, что внутренний документ компании показал, что Meta разрешала «романтические или чувственные» чаты с несовершеннолетними, что вызвало возмущение в Конгрессе и побудило компанию изменить курс. Но сенатор Эдвард Марки, демократ от штата Массачусетс, заявил в понедельник в письме генеральному директору Meta Марку Цукербергу, что технологическая компания могла бы избежать негативной реакции, если бы только прислушалась к его предупреждению два года назад. В сентябре 2023 года Марки написал в письме Цукербергу, что разрешение подросткам использовать чат-ботов с искусственным интеллектом «усугубит» существующие проблемы с социальными сетями и создаст слишком много рисков. Он призвал компанию приостановить выпуск чат-ботов с искусственным интеллектом до тех пор, пока она не поймет их влияние на несовершеннолетних. Однако у Meta были другие планы. Компания ответила Марки несколько недель спустя в письме, о котором ранее не сообщалось и которое дает представление о том, как компания мыслила в то время, когда чат-боты с искусственным интеллектом становились все более популярными. В этом письме компания отвергла идею полной приостановки выпуска чат-ботов с искусственным интеллектом и заявила, что вместо этого она будет применять взвешенный подход к искусственному интеллекту. «Мы внедряем функции искусственного интеллекта методично и поэтапно, поэтому, если возникают какие-либо опасения, мы можем работать над их устранением, прежде чем расширять доступ к этой функции для большего числа людей», — написал Кевин Мартин, в то время вице-президент Meta по политике в Северной Америке, Марки в октябре 2023 года. Мартин также написал, что для Meta «крайне важно» создавать услуги искусственного интеллекта с учетом интересов подростков. «Учитывая широкую привлекательность и полезность этих функций, крайне важно, чтобы мы также учитывали отзывы и создавали модели на основе данных, полученных от подростков, а не только от взрослых», — написал он. Он добавил, что Meta по-прежнему будет «уделять большое внимание обеспечению безопасности всех генеративных [ИИ] функций». В этом году Мартин был повышен до вице-президента Meta по глобальной государственной политике. Теперь, в своем последнем письме Meta, Марки вновь призвал Meta полностью запретить молодым пользователям доступ к чат-ботам компании, основанным на искусственном интеллекте. «Хотя чат-боты с ИИ при надлежащем обучении, контроле и постоянной оценке могут приносить реальную пользу своим пользователям, недавние действия Meta еще раз демонстрируют, что компания действует безответственно, внедряя свои чат-бот-сервисы», — написал Марки. Он также написал, что Meta должна была прислушаться с самого начала. «Вы проигнорировали эту просьбу, и два года спустя Meta, к сожалению, доказала правоту моих предупреждений», — написал он. В ответ на просьбу прокомментировать письма Марки представитель Meta сообщил NBC News, что в августе компания уже объявила о временных мерах по решению проблемы использования персонажей ИИ несовершеннолетними, в том числе о обучении чат-ботов не отвечать подросткам на вопросы о самоповреждении, самоубийстве, расстройствах пищевого поведения или потенциально неуместных романтических разговорах, а вместо этого направлять их к экспертным ресурсам, где это уместно. Компания также ограничила доступ подростков к избранной группе персонажей ИИ, сообщил представитель. «По мере роста нашего сообщества и развития технологий мы постоянно изучаем, как молодые люди могут взаимодействовать с этими инструментами, и соответствующим образом усиливаем наши меры защиты», — заявила Meta, объявляя об этих изменениях в прошлом месяце. «По мере совершенствования наших систем мы добавляем дополнительные меры предосторожности». Другой законодатель, сенатор Джош Хоули, республиканец из Миссури, пообещал в прошлом месяце провести расследование в отношении Meta после публикации Reuters отчета о внутренних правилах компании, регулирующих работу чат-ботов с ИИ. В апреле The Wall Street Journal сообщила, что официальный бот Meta с ИИ вступал в сексуальные чаты с несовершеннолетними пользователями и что сотрудники нескольких отделов высказывали этические опасения, в том числе по поводу способности ботов к фантазийному сексу. Meta заявила газете, что эти опасения являются гипотетическими и выдуманы Journal, хотя и признала, что приняла меры для снижения риска. Другие проблемы преследуют чат-ботов с ИИ в Meta и других технологических компаниях. В январе NBC News сообщила, что Meta размещала чат-бота с искусственным интеллектом, имитирующего Адольфа Гитлера, а также десятки других чат-ботов, которые, по всей видимости, нарушали политику компании. Meta в то время удалила соответствующие аккаунты и заявила, что работает над улучшением своих мер по обнаружению подобных нарушений. В прошлом месяце Washington Post сообщила, что Meta AI может подталкивать подростков к самоубийству, самоповреждениям и расстройствам пищевого поведения. Meta заявила газете, что активно работает над решением этих проблем.