Международное давление на X и Маска усиливается из-за глубоких фейков Grok с участием женщин и детей

Британский регулятор в области онлайн-безопасности объявил в понедельник, что официально расследует X в связи с опасениями, что Grok «использовался для создания и распространения обнаженных изображений людей», в том числе детей. Агентство Ofcom заявило, что проводит «ускоренную оценку» и что X ответило на его запросы о предоставлении информации в пятницу. Если Ofcom установит, что X нарушил законодательство Великобритании, оно может наложить штрафы в размере до 10 % от его глобальной выручки, запретить британским компаниям размещать рекламу в X или поручить интернет-провайдерам страны заблокировать платформу. Расследование в Великобритании — лишь одно из мер, принятых правительствами по всему миру в ответ на возможности Grok в области дипфейков. На выходных регулирующие органы Индонезии и Малайзии объявили, что они временно заблокировали X в своих странах, сославшись на свои законы против дипфейков и материалов, связанных с сексуальным насилием над детьми (CSAM). Мэри Энн Франкс, профессор права Университета Джорджа Вашингтона, которая изучает законы о несогласованной порнографии и помогала законодателям штатов и федеральным законодателям разрабатывать законы по этой теме, сказала, что не ожидает вмешательства федерального правительства США. Но угрозы со стороны других стран с более строгими законами о CSAM могут заставить X и Маска ограничить возможности Grok, сказала она. «Если будет какое-то замедление, я уверена, что это будет из-за негативной реакции, а также потому, что в других странах существуют разные определения того, что является незаконным CSAM», — сказала Франкс. На прошлой неделе, по просьбе пользователей, Grok начал создавать тысячи сексуализированных изображений, генерируемых искусственным интеллектом, каждый час, используя лица реальных людей и публикуя их на X, согласно анализу, проведенному исследователем deepfake Женевьевой О. Многие из deepfake изображали узнаваемых женщин, которых искусственный интеллект помещал в купальные костюмы или откровенные позы; но Grok также изображал некоторых людей, в том числе детей, по словам некоторых наблюдателей, полностью обнаженными. Представитель Европейской комиссии, исполнительного органа Европейского союза, сообщил NBC News, что агентство недавно заметило, как Grok генерирует сексуализированные изображения детей. В пятницу австралийский комиссар по электронной безопасности, правительственное агентство, занимающееся вопросами безопасности в Интернете, заявило, что получило несколько сообщений о том, что Grok создает эксплуатационные изображения, и попросило X разъяснить свои меры безопасности, отметив, что может выдать X уведомления об удалении. В субботу как премьер-министр Австралии Энтони Альбанезе, так и лидер оппозиции Сьюзан Лей осудили эти изображения. Маск и X не сразу ответили на запрос о комментарии. Маск и X недавно сообщили, что запрещают пользователям создавать «незаконный контент», но воздержались от публичного заявления о том, что они существенно изменят способность Grok манипулировать изображениями людей и придавать им сексуальный характер. Создание и хранение CSAM широко запрещено во всем мире, но во многих странах также существуют законы, ограничивающие или запрещающие создание сексуальных изображений взрослых людей без их согласия, известные как несогласованная порнография. Ранним утром в пятницу X сделал бота Grok, который был движущей силой тренда на дипфейки, премиум-функцией для платных подписчиков, хотя пользователи по-прежнему могли создавать дипфейки с помощью отдельного приложения Grok в дополнение к другим интерфейсам, где Grok был доступен. Хотя количество таких изображений, публикуемых на X, по-видимому, сократилось, критики, такие как сенатор Рон Уайден, D-Ore., заявили, что этот шаг равносилен тому, что «некоторые пользователи платят за привилегию создавать ужасающие изображения в приложении X». Ofcom заявил, что его расследование будет сосредоточено на том, соблюдает ли X законодательство Великобритании, быстро удаляя незаконный контент, как только он становится известен, и проводит ли он успешную оценку рисков перед внесением «значительных изменений в свои услуги». В четверг премьер-министр Великобритании Кир Стармер заявил в радиоинтервью, что Ofcom «имеет нашу полную поддержку для принятия мер». «Это позорно. Это отвратительно. И это недопустимо», — сказал он о создании изображений. «X должно взять это под контроль». Министерство электроники и информационных технологий Индии (MeitY) также, как сообщается, предупредило X на прошлой неделе, что оно потенциально нарушает законы страны. MeitY не ответило на запрос о комментарии. Остается неясным, будет ли какая-либо регулирующие органы примут меры в отношении Маска и его компаний за манипулирование изображениями. Федеральная торговая комиссия не ответила на запрос о комментарии. Министерство юстиции сообщило NBC News на прошлой неделе, что оно намерено привлечь к ответственности «лиц, которые используют технологии для нанесения вреда наиболее уязвимым слоям населения», но не упомянуло конкретные компании. Ряд генеральных прокуроров штатов отказались комментировать NBC News, рассматривают ли они возможность предъявления обвинений в связи с этими изображениями. Маск активно продвигает X и свою компанию xAI, которая занимается искусственным интеллектом и обеспечивает работу Grok, чтобы они были более лояльными к модерации контента, чем большинство их конкурентов. В пятницу он написал в X, что сообщения о том, что Лейбористская партия Великобритании хочет потенциально заблокировать X из-за изображений Grok, являются доказательством того, что «они ищут любой повод для цензуры». Томас Регнье, представитель Европейской комиссии, заявил на пресс-конференции в понедельник, что она поставила Маску и X ультиматум прекратить производство CSAM, но не упомянул никаких конкретных санкций. «Проводить параллель между свободой слова и инструментом искусственного интеллекта, который генерирует материалы с сексуальным насилием над детьми, — это опасная ерунда, особенно когда это исходит от владельца технологической компании. Честно говоря, я даже не могу поверить, что мы обсуждаем это и занимаемся этим с трибуны комиссии в 2026 году», — сказал Регнье. В декабре Европейская комиссия оштрафовала X на 140 миллионов долл., заявив, что платформа нарушила европейские законы о борьбе с языком ненависти и дезинформацией. Это вызвало критику со стороны администрации Трампа: вице-президент Дж. Д. Вэнс и госсекретарь Марко Рубио назвали это нападением на американскую свободу слова.