ЕС начинает расследование в отношении X и чат-бота Grok, разработанного Маском, в связи с сексуальными дипфейками

ЛОНДОН (AP) — Европейский Союз в понедельник начал официальное расследование в отношении социальной сети X Илона Маска после того, как его чат-бот Grok, основанный на искусственном интеллекте, начал публиковать на платформе несогласованные сексуализированные дипфейковые изображения. Европейские регуляторы также расширили отдельное, уже проводимое расследование в отношении рекомендательных систем X после того, как платформа заявила, что перейдет на систему искусственного интеллекта Grok для выбора постов, которые будут отображаться пользователям. Внимание со стороны Брюсселя последовало после того, как Grok вызвал глобальную негативную реакцию, позволив пользователям с помощью своих функций генерации и редактирования изображений с помощью искусственного интеллекта раздевать людей, надевать на женщин прозрачные бикини или откровенную одежду. Исследователи заявили, что на некоторых изображениях, по-видимому, были дети. Некоторые правительства запретили эту услугу или выпустили предупреждения. Исполнительный орган 27 стран ЕС заявил, что изучает, достаточно ли X сделал в соответствии с требованиями цифровых правил блока для сдерживания рисков распространения незаконного контента, такого как «манипулированные изображения сексуального характера». Это включает контент, который «может быть приравнен к материалам с изображением сексуального насилия над детьми», заявила Европейская комиссия. Эти риски теперь «материализовались», заявила комиссия, подвергая граждан блока «серьезному вреду». Регулирующие органы проведут проверку на предмет выполнения Grok своих обязательств в соответствии с Законом о цифровых услугах, широким сводом правил блока, направленным на защиту интернет-пользователей от вредного контента и продуктов. В ответ на запрос о комментарии представительница X направила Associated Press к более раннему заявлению о том, что компания по-прежнему «стремится сделать X безопасной платформой для всех» и что она «не терпит» сексуальной эксплуатации детей, несогласованной наготы и нежелательного сексуального контента. В заявлении X от 14 января также говорится, что компания перестанет разрешать пользователям изображать людей в «бикини, нижнем белье или другой откровенной одежде», но только в тех местах, где это считается незаконным. «Несогласованные сексуальные дипфейки женщин и детей являются жестокой и неприемлемой формой унижения», — заявила Хенна Вирккунен, исполнительный вице-президент комиссии. «В ходе этого расследования мы определим, выполнила ли X свои юридические обязательства в соответствии с DSA или же она рассматривала права европейских граждан, в том числе женщин и детей, как побочный ущерб от своей деятельности», — сказала Вирккунен, которая курирует вопросы технологического суверенитета, безопасности и демократии. Компания Маска по искусственному интеллекту xAI запустила инструмент для работы с изображениями Grok летом прошлого года. Но проблема начала набирать обороты только в конце прошлого месяца, когда Grok, по-видимому, удовлетворил большое количество запросов пользователей на изменение изображений, опубликованных другими. Проблема усугубилась как потому, что Маск позиционирует свой чат-бот как более радикальную альтернативу с меньшим количеством мер безопасности, чем у конкурентов, так и потому, что изображения Grok доступны для общего просмотра и поэтому могут легко распространяться. Расследование ЕС касается только сервиса Grok на X, а не веб-сайта Grok и отдельного приложения. Это связано с тем, что DSA применяется только к крупнейшим онлайн-платформам. У блока нет срока для разрешения дела, которое может закончиться либо обещанием X изменить свое поведение, либо крупным штрафом. В декабре Брюссель наложил на X штраф в размере 120 миллионов евро (тогда 140 миллионов песо) в рамках ранее проводимого расследования DSA за недостатки, включая синие галочки, которые нарушали правила «обманчивых дизайнерских практик», которые рисковали подвергнуть пользователей мошенничеству и манипуляциям. Блок также тщательно изучает X в связи с обвинениями в том, что Grok генерировал антисемитские материалы, и запросил у сайта дополнительную информацию.