X ограничивает генерацию изображений с помощью ИИ после негативной реакции, но приложение Grok по-прежнему позволяет создавать сексуальные дипфейки.

Скандальная модель искусственного интеллекта Grok, разработанная Илоном Маском, по-видимому, была ограничена в одном приложении, но осталась практически неизменной в другом. В приложении X, принадлежащем Маску, функция генерации изображений Grok AI стала доступна только для платных клиентов и, по-видимому, была ограничена в создании сексуализированных дипфейков после волны негативной реакции со стороны пользователей и регулирующих органов. Но в отдельном приложении и на веб-сайте Grok пользователи по-прежнему могут использовать ИИ для удаления одежды с изображений людей, не дававших на это согласия. Ранним утром в пятницу бот Grok на X, который ранее выполнял множество запросов на помещение несогласных людей в сексуализированные контексты и обнаженную одежду, начал отвечать на запросы пользователей текстом, включающим фразу «Генерация и редактирование изображений в настоящее время ограничены для платных подписчиков. Вы можете подписаться, чтобы разблокировать эти функции», с ссылкой на страницу покупки премиум-аккаунта X. При просмотре ответов бота X в пятницу утром стало очевидно, что поток сексуализированных изображений значительно сократился. Grok на X, по-видимому, в основном перестал создавать сексуализированные изображения узнаваемых людей. Однако в отдельном приложении Grok модель искусственного интеллекта продолжала выполнять запросы на размещение людей, не дававших на это согласия, в более откровенной одежде, такой как купальники и нижнее белье. NBC News попросила Grok в отдельном приложении и на веб-сайте преобразовать серию фотографий одетого человека, который согласился на тест. Grok, в отдельном приложении, выполнял запросы о том, чтобы полностью одетый человек был помещен в более откровенный купальник и в сексуализированные контексты. В настоящее время не ясно, каковы масштабы и параметры этих изменений. X и Маск не сделали никаких заявлений по поводу этих изменений. В воскресенье, до того как произошли изменения и в условиях растущей негативной реакции, Маск и X повторно заявили, что создание «незаконного контента» приведет к постоянной блокировке, и что X будет сотрудничать с правоохранительными органами в случае необходимости. Этот шаг был предпринят после того, как в последние дни социальная сеть Маска X была завалена сексуализированными изображениями, созданными с помощью инструментов искусственного интеллекта Grok от xAI, поскольку пользователи просили систему раздеть фотографии людей — в основном женщин — без их согласия. На большинстве сексуализированных изображений, созданных Grok, люди были одеты в более откровенную одежду, такую как бикини или нижнее белье. На некоторых изображениях, просмотренных NBC News, пользователи успешно побудили Grok одеть людей в прозрачное или полупрозрачное нижнее белье, фактически сделав их обнаженными. Изменения на X резко отличаются от траектории развития социальной сети всего за день до этого, когда количество сексуальных изображений, публикуемых Grok на X, увеличивалось, согласно анализу, проведенному исследователем deepfake Женевьевой О. В среду Grok создал 7751 сексуализированное изображение за час — на 16,4% больше, чем 6659 изображений в час в понедельник, согласно анализу результатов работы бота. Ох — независимый аналитик, специализирующийся на исследовании дипфейков и социальных сетей. С 31 декабря она запустила программу, которая ежедневно в течение часа скачивает все изображения, отвеченные Grok. После скачивания Ох анализирует изображения с помощью программы, предназначенной для обнаружения различных форм обнаженности или раздевания. О предоставила NBC News видео, демонстрирующее ее работу, и таблицу с документацией проанализированных постов Grok. Изображения вызвали тревогу у многих зрителей, наблюдателей и людей, чьи фотографии были подделаны, и в преддверии изменения на X наблюдалось постоянное давление. Регулирующие органы и законодатели начали оказывать давление на X. В четверг премьер-министр Великобритании Кир Стармер резко раскритиковал X на Greatest Hits Radio, британской радиосети, вещающей на 18 станциях, назвав возможности генерации изображений «позорными» и «отвратительными», а затем добавил, что «это недопустимо». «Это позорно. Это отвратительно. И это недопустимо», — сказал Стармер на радио Greatest Hits. «X должен взять это под контроль». Стармер сказал, что регулятор СМИ Ofcom «имеет нашу полную поддержку для принятия мер» и что «все варианты» находятся на столе переговоров. Британский регулятор в области связи Ofcom заявил в понедельник, что он «срочно связался» с X и xAI, чтобы оценить соблюдение юридических обязательств по защите пользователей, и проведет быструю оценку на основе ответа компаний. Ирландские и индийские регулирующие органы, а также Европейская комиссия также запросили информацию о вопросах безопасности, связанных с Grok. Однако учреждения в США более медленно реагировали на действия, которые могли бы повлиять на Маска или X. Представитель Министерства юстиции сообщил NBC News, что ведомство «очень серьезно относится к материалам с изображением сексуального насилия над детьми, созданным с помощью ИИ, и будет жестко преследовать в судебном порядке любого производителя или владельца таких материалов». Однако представитель указал, что министерство более склонно преследовать лиц, которые запрашивают CSAM, а не людей, которые разрабатывают и владеют ботом, который его создает. «Мы продолжаем изучать способы оптимизации правоприменения в этой сфере, чтобы защитить детей и привлечь к ответственности лиц, которые используют технологии для нанесения вреда самым уязвимым», — сказал представитель. Некоторые американские законодатели начали призывать X более активно контролировать изображения, ссылаясь на закон, подписанный Трампом в 2025 году и продвигаемый первой леди Меланией Трамп, — Take It Down Act, который направлен на криминализацию публикации порнографических изображений, созданных с помощью ИИ без согласия, с угрозой штрафов и тюремного заключения для физических лиц, а также угрозой применения мер воздействия со стороны Федеральной торговой комиссии в отношении платформ, которые не принимают соответствующих мер. Он включает в себя положение, которое позволяет жертвам несогласованных изображений с откровенным содержанием требовать от социальных сетей их удаления, хотя сайты не обязаны внедрять такую систему до 19 мая, через год после подписания закона. «Именно для борьбы с подобными злоупотреблениями и был принят закон TAKE IT DOWN. Закон совершенно ясен: создание, распространение ИЛИ хранение таких изображений на вашей платформе является незаконным», — заявила в своем обращении республиканский конгрессмен от Флориды Мария Салазар. «Несмотря на то, что у платформ еще есть несколько месяцев, чтобы полностью выполнить требования закона TAKE IT DOWN, X должна немедленно решить эту проблему и удалить весь этот контент», — сказала она. «Эти незаконные изображения представляют серьезную угрозу для частной жизни и достоинства жертв. Их следует удалить и установить защитные меры», — написал в X сенатор от Техаса Тед Круз (республиканец). «Этот инцидент является хорошим напоминанием о том, что с развитием искусственного интеллекта мы столкнемся с проблемами конфиденциальности и безопасности, и мы должны активно бороться с этими угрозами», — сказал он. Сенатор Рон Уайден, D-Ore, соавтор раздела 230 Закона о пристойности в коммуникациях, заявил в своем заявлении, что закон, который в значительной степени защищает социальные сети от юридической ответственности за контент, размещаемый пользователями, при условии, что они осуществляют определенную модерацию, никогда не был предназначен для защиты компаний от результатов работы их собственных чат-ботов. «Штаты должны вмешаться, чтобы привлечь X и Маска к ответственности, если этого не сделает Министерство юстиции Трампа», — сказал Уайден. Генеральные прокуроры ряда штатов, в том числе Массачусетса, Миссури, Небраски и Нью-Йорка, сообщили NBC News, что они знают о Grok и следят за ним, но не стали говорить, что начали уголовное расследование. Пресс-секретарь генерального прокурора Флориды Джеймса Утмайера заявил, что его ведомство «в настоящее время ведет переговоры с X, чтобы обеспечить защиту детей и предотвратить использование его платформы для создания CSAM». Некоторые также начали задаваться вопросом, могут ли частные заинтересованные стороны или хосты X принять меры. Магазины приложений, включая Google Play Store и Apple App Store, в которых размещены приложения X и xAI, по-видимому, запрещают в своих условиях обслуживания изображения детей сексуального характера и изображения, сделанные без согласия. Однако приложения остались в этих магазинах, а их представители не ответили на запросы о комментариях.