Сенатор Джош Хоули расследует политику Meta AI в отношении детей после публикации осуждающего отчета

Сенатор Джош Хоули, республиканец из штата Миссури, заявил в пятницу, что проведет расследование в отношении Meta после появления сообщения о том, что компания одобрила правила, позволяющие чат-ботам с искусственным интеллектом вести определенные «романтические» и «чувственные» разговоры с детьми. Хоули призвал генерального директора Meta Марка Цукерберга сохранить соответствующие материалы, включая электронные письма, и заявил, что расследование будет направлено на то, «позволяют ли продукты Meta на основе генеративного искусственного интеллекта эксплуатировать, обманывать или причинять иной ущерб детям, а также вводила ли Meta в заблуждение общественность или регулирующие органы в отношении своих мер безопасности». «Есть ли что-нибудь — ЛЮБОЕ — чего Big Tech не сделает ради быстрой наживы?» — написал Хоули в посте на X, объявляя о расследовании. Meta отказалась комментировать письмо Хоули. Хоули сослался на опубликованный в четверг отчет Reuters, в котором цитировался внутренний документ, подробно описывающий допустимые действия чат-ботов Meta AI, которые сотрудники компании и подрядчики должны разрешать в рамках разработки и обучения программного обеспечения. В документе, полученном Reuters, отмечается, что чат-боту будет разрешено вести романтическую беседу с восьмилетним ребенком, говоря ему, что «каждый сантиметр твоего тела — это шедевр, сокровище, которое я глубоко ценю». Согласно отчету Reuters, в руководящих принципах Meta говорится: «Допустимо описывать ребенка в терминах, которые свидетельствуют о его привлекательности (например: «твоя юная фигура — это произведение искусства»)». Согласно отчету, чат-ботам Meta не будет разрешено вести более откровенные разговоры с детьми младше 13 лет «в терминах, которые указывают на их сексуальную привлекательность». «Мы намерены выяснить, кто одобрил эти правила, как долго они действовали и что Meta сделала, чтобы предотвратить подобное поведение в будущем», — написал Хоули. Представитель Meta сообщил Reuters, что «указанные примеры и заметки были и остаются ошибочными и несовместимыми с нашей политикой, и были удалены». «У нас есть четкая политика в отношении того, какие ответы могут давать персонажи ИИ, и эта политика запрещает контент, который сексуализирует детей, а также сексуализированные ролевые игры между взрослыми и несовершеннолетними», — сказал представитель Meta агентству Reuters. Хоули заявил, что Meta должна предоставить документы о рисках и стандартах, связанных с генеративным ИИ, списки всех продуктов, которые соответствуют этой политике, а также другие отчеты о безопасности и инцидентах. Meta также должна предоставить различные публичные и нормативные сообщения, касающиеся безопасности несовершеннолетних, а также документы о сотрудниках, занимающихся политикой в области искусственного интеллекта, чтобы определить «цепочку решений по удалению или пересмотру любых частей стандарта». Хоули является председателем подкомитета Сената по преступности и борьбе с терроризмом, который будет проводить расследование. Согласно письму, Meta должна предоставить документы до 19 сентября.