Чат-бот Grok AI, созданный Маском, по-прежнему генерирует порнографические дипфейки, несмотря на обещание X положить этому конец

Программное обеспечение Илона Маска на базе искусственного интеллекта под названием Grok продолжает генерировать изображения людей в сексуальном контексте без их согласия, несмотря на то, что несколько месяцев назад его компания пообещала прекратить создание оскорбительных дипфейков после общественного резонанса и правительственных расследований. В ходе расследования NBC News за последний месяц в приложении Маска для социальных сетей X были обнаружены десятки созданных ИИ изображений и видео сексуального характера, на которых запечатлены реальные люди. На изображениях показаны женщины, чьи образы были отредактированы чат-ботом с ИИ, чтобы одеть их в более откровенную одежду, такую как полотенца, спортивные бюстгальтеры, облегающие костюмы Женщины-паука или костюмы кроликов. Многие из этих женщин — поп-звезды или актрисы. Программное обеспечение Grok, созданное компанией Маска xAI, создавало эти изображения по запросу пользователей, которые пытались обойти ограничения на раздевание, введенные сервисом в январе. Grok через свой аккаунт в X или сами пользователи затем публиковали эти изображения в X. Эти изображения похожи на те, которые вызвали бурю критики в январе, когда компании Маска позволяли людям свободно раздевать других, просто загружая фотографии и вводя команды типа «одень ее в бикини». Компании Маска приветствовали эту идею, продвигая «пикантный режим» своего чат-бота с искусственным интеллектом. Поток поддельных изображений, в том числе с участием детей, вызвал расследования со стороны правительств на пяти континентах. Количество сексуализированных дипфейков, созданных Grok и размещенных в X, по-видимому, значительно сократилось после январского всплеска. Как показали сообщения, проанализированные NBC News, программа Grok отклоняет или игнорирует многие из сексуальных запросов, которые поступают ей публично в X. Ни одна из женщин на изображениях, сгенерированных Grok и просмотренных NBC News, не была обнаженной, и ни одна, по всей видимости, не была несовершеннолетней. Однако эксперты сообщили NBC News, что трудно исследовать все, что производит Grok, особенно когда люди получают доступ к программному обеспечению в частном порядке через приложение Grok, на веб-сайте Grok или на частной вкладке Grok в X. Также трудно найти в X все публичные примеры сексуализированных дипфейков. «Когда эти изображения создаются и распространяются, люди на них не всегда об этом узнают», — сказал Стефан Туркхаймер, вице-президент по вопросам государственной политики в RAINN, правозащитной организации, занимающейся борьбой с сексуальным насилием. xAI, принадлежащий Маску стартап в сфере искусственного интеллекта, который создал Grok и также владеет X, заявил в понедельник, что хочет изучить выводы NBC News. Представитель компании не ответил на дополнительные вопросы. Во вторник большинство изображений уже не было на X и было заменено сообщениями о том, что пост «недоступен» или «нарушил Правила X». X и Маск не ответили на отдельный запрос о комментарии. После того как NBC News опубликовала свои выводы во вторник, X заявила в сообщении на своей платформе: «Мы строго запрещаем пользователям создавать несогласованные откровенные дипфейки и использовать наши инструменты для раздевания реальных людей». «xAI применяет комплексные меры безопасности для предотвращения подобного злоупотребления, такие как постоянный мониторинг публичного использования, анализ попыток обхода ограничений в режиме реального времени, частые обновления моделей, оперативные фильтры и дополнительные меры защиты». Новые примеры, увиденные NBC News, показывают, что пользователи Grok обновили свои тактики, чтобы попытаться опередить инженеров xAI и модераторов контента X. Хотя Grok теперь, похоже, отклоняет или игнорирует запросы пользователей о том, чтобы изобразить людей «в бикини», он выполняет другие запросы. Эти примеры было несложно найти с помощью функции поиска на сайте X. В одном из трендов пользователь просит Grok создать изображение, объединив два изображения, которые он отправляет одновременно: во-первых, фотографию женщины, часто знаменитости, и, во-вторых, рисунок фигурки-палочки с раздвинутыми ногами, либо в приседании, либо в шпагате. Запрос включает подсказку, приказывающую Grok заставить женщину «принять позу со второго изображения» или «соответствовать позе». Полученный дипфейк подчеркивает промежность женщины. Второй тренд заключается в том, что пользователи просят Grok поменять одежду женщин на двух отдельных фотографиях, причем по крайней мере на одной из фотографий должна быть обтягивающая или откровенная одежда. А в третьем наборе пользователи загрузили, по-видимому, подлинные фотографии женщин и попросили Grok преобразовать эти фотографии в видеоролики, иногда с результатами, носящими сексуальный характер. В одном из примеров, датированном 12 марта, Grok выполнил запрос, сгенерировав видео, в котором изображение актрисы ласкает свою грудь, на основе фотографии, на которой она к ней не прикасается. В другом примере от 6 апреля Grok создал видео с той же актрисой с раздвинутыми ногами на основе фотографии, на которой она сидит со скрещенными ногами. По крайней мере одна из знаменитостей, изображенных в этих дипфейках, ранее публично выражала недовольство подобными изображениями. Эти выводы были сделаны после того, как X взял на себя обязательство предотвращать создание таких изображений. В январе X заявил в своем заявлении, что «внедрил технологические меры, чтобы аккаунт Grok на X по всему миру не позволял редактировать изображения реальных людей в откровенной одежде, такой как бикини. Это ограничение распространяется на всех пользователей, включая платных подписчиков». Женевьева О, независимый аналитик, чьи исследования по дипфейкам широко цитируются, заявила в электронном письме, что, по ее мнению, Grok «был и остается, без сомнения, крупнейшим в мире генератором синтетической наготы без согласия» в мире. Хотя она отметила, что ее исследования продолжаются, она считает вероятным, что Grok превосходит по объему производства все остальные «инструменты для создания обнаженных изображений» вместе взятые. Подобные приложения циркулируют уже много лет, вызывая беспорядки в школах и оставляя жертв в поисках правовой защиты. Центр по борьбе с цифровой ненавистью, который в январе подсчитал, что за 11 дней Grok создал 3 миллиона сексуализированных изображений, на прошлой неделе сообщил, что по-прежнему обнаруживает созданные ИИ Маска диффейки с изображением людей без их согласия. «Извращенцы по-прежнему могут использовать Grok, чтобы помещать женщин и девочек в сексуализированные позы и наряды, несмотря на заявления платформы об обратном», — заявил в своем заявлении Имран Ахмед, генеральный директор и основатель центра. Когда Grok ввел изменения, позволяющие создавать сексуализированные дипфейки, он стал единственной из самых популярных платформ искусственного интеллекта, которая ослабила свои ограничения в такой степени. В прошлом месяце появились признаки того, что компании Маска могут отступать от обязательств, взятых на себя в январе. В Нидерландах, где правозащитная организация подала в суд на xAI из-за сексуализированных дипфейков, компания на судебном заседании утверждала, что не может предотвратить все злоупотребления своими инструментами и не должна нести ответственность за действия злонамеренных пользователей, согласно описанию слушания агентством Reuters. По данным правоохранительных органов, отдельные сексуальные преступники настойчиво пытаются использовать лазейки в системе не только в Grok, но и в других местах. Национальный центр по делам пропавших и эксплуатируемых детей, который управляет CyberTipline — общенациональной централизованной системой сообщений о детской эксплуатации в Интернете, — заявил, что граждане присылают ему сообщения, описывающие инциденты, в которых дети или жертвы насилия, возможно, подвергались эксплуатации с использованием Grok. В январе NCMEC сообщил о подобных жалобах. Однако NCMEC отметил, что не проводил независимого исследования текущих возможностей Grok. «NCMEC обеспокоено любой технологией искусственного интеллекта, которая может генерировать материалы с сексуальным насилием над детьми или иным образом способствовать эксплуатации детей», — говорится в заявлении организации. Маск отрицает, что Grok создавал материалы с сексуальным насилием над детьми. В своем посте от 14 января он написал, что «не знает ни об одном изображении обнаженных несовершеннолетних, сгенерированном Grok. Буквально ни одного». В этом месяце восемь различных правоохранительных и регулирующих органов сообщили NBC News, что они продолжают расследование возможностей Grok по обнажению и сексуализации. К этим органам относятся генеральная прокуратура Калифорнии, австралийское управление eSafety, комиссар по вопросам конфиденциальности Канады, Европейская комиссия, Комиссия по защите данных Ирландии, прокуратура Парижа и два британских агентства — Управление по коммуникациям (Ofcom) и Управление комиссара по информации. «Расследование в Калифорнии все еще в самом разгаре. Помимо этого, чтобы не навредить текущему расследованию, у нас на данный момент нет дополнительных новостей», — сообщила в электронном письме канцелярия генерального прокурора Калифорнии Роба Бонты. Еще больше государственных органов выразили возмущение в январе и феврале, хотя не все из них подтвердили, что их расследования продолжаются. Италия, которая в январе выступила с предупреждением о том, что некоторые изображения, созданные Grok, могут носить преступный характер, решила не начинать собственное расследование, а вместо этого следить за ходом расследований, проводимых Ирландией и Европейской комиссией, сообщил на прошлой неделе представитель властей. (Европейская штаб-квартира компании X находится в Дублине.) Комиссия по коммуникациям Малайзии, которая в январе заблокировала, а затем восстановила доступ к Grok, сообщила во вторник в электронном письме, что в настоящее время не ведет расследование по этому делу. xAI отдельно сталкивается с несколькими судебными исками в связи с генерацией Grok изображений сексуального характера. Среди них два иска, поданных в федеральный суд Калифорнии в качестве групповых исков женщинами и девочками, чьи образы были отредактированы Grok, а также иск города Балтимор, в котором утверждается о нарушении кодекса защиты прав потребителей. В судебных документах по этим делам пока не отражены какие-либо ответы со стороны компаний Маска. Четвертое дело, рассмотренное в Нидерландах, привело в прошлом месяце к вынесению постановления, обязывающего Grok прекратить создание изображений обнаженных взрослых или детей. Расследования и судебные иски ведутся в деликатный для бизнес-империи Маска момент. В феврале xAI была приобретена другой компанией Маска — SpaceX, поставщиком ракетных услуг и оператором спутникового интернета. В июне SpaceX планирует провести первичное публичное размещение своих акций, чтобы привлечь миллиарды долларов дополнительного капитала. Решение о включении xAI в состав SpaceX означает, что ракетная компания почти наверняка будет нести ответственность за любые потенциальные будущие штрафы, связанные с поведением Grok, отмечают юридические эксперты, хотя, по их словам, пока неясно, будут ли такие штрафы считаться существенными с точки зрения ожидаемой оценки SpaceX в 2 триллиона долл. Компания SpaceX не ответила на запрос о комментарии. Маск рекламировал способность Grok создавать изображения сексуального характера. Он часто публиковал сгенерированные ИИ изображения мультяшных женщин в сексуальных ситуациях или в обтягивающей или откровенной одежде. В октябрьском посте, отвечая кому-то, кто поделился видео с ИИ-роботом в сексуальной обстановке, Маск посетовал: «Хм, у наших конкурентов получаются более качественные дипфейки. Нам придется поднять планку». В прошлом году xAI выпустила новый инструмент для генерации видео с помощью ИИ под названием «Imagine», который включал в себя так называемый режим «Spicy», позволяющий создавать сгенерированный ИИ контент, не подходящий для просмотра на работе. The Verge сообщил, что он создавал диффейки с обнаженной грудью поп-звезды Тейлор Свифт без запроса со стороны пользователя. В конце декабря пользователи начали жаловаться на волну сексуализированных дипфейков, нацеленных на женщин и девочек, чьи фотографии Grok отредактировал цифровым способом, чтобы они выглядели обнаженными или почти обнаженными. 31 декабря Grok заявил в X, что были «единичные случаи, когда пользователи запрашивали и получали изображения, сгенерированные ИИ, на которых несовершеннолетние были изображены в минимальной одежде». В отдельном посте разработчики написали, что «глубоко сожалеют» о том, что они сделали. Изначально xAI не внесла изменений в продукт, а возложила на пользователей ответственность за соблюдение законов о насилии над детьми. «Любой, кто использует Grok для создания незаконного контента, понесет те же последствия, что и при загрузке незаконного контента», — написал Маск 3 января. Однако глобальная волна протеста вскоре оказалась для компании непосильной. Британская надзорная организация Internet Watch Foundation сообщила о «криминальных изображениях», которые, по словам интернет-пользователей, были созданы с помощью Grok, а различные исследователи независимо друг от друга обнаружили, что Grok генерирует тысячи изображений сексуального характера в час. 9 января X ограничила генерацию изображений с помощью ИИ только для платных клиентов, а 14 января объявила о более комплексных мерах по борьбе с этим явлением. В феврале французские власти провели рейд в офисах X в стране в связи с дипфейками и другими проблемами. Они также заявили, что планируют вызвать руководителей и сотрудников X — включая Маска и бывшего генерального директора X Линду Яккарино — в Париж для допросов на неделе, начинающейся 20 апреля. X осудила обыск как «злоупотребление властью со стороны правоохранительных органов». Неясно, надеются ли французские власти все еще провести эти допросы в этом месяце. Прокуратура Парижа заявила на прошлой неделе, что расследование продолжается, но новой информации нет. Регуляторам Европейского союза иногда требуется несколько лет, чтобы принять решение. Они два года расследовали X, прежде чем в декабре объявили, что штрафуют компанию на сумму, эквивалентную 140 миллионам долл., за нарушение обязательств по обеспечению прозрачности. Маск пообещал оспорить штраф. Британская организация Internet Watch Foundation заявила, что её аналитики не смогли найти на Grok материалы преступного содержания за пределами платных разделов, поэтому ей неизвестно, что именно создают пользователи Grok в настоящее время. Фонд отметил, что Маску недостаточно просто ограничить доступ к инструментам ИИ только для платных клиентов. «Наша позиция заключается в том, что технологические компании должны гарантировать, что продукты, которые они разрабатывают и предоставляют глобальной общественности, являются безопасными по своему дизайну», — говорится в заявлении. «Если это означает, что правительства и регулирующие органы должны заставить их разрабатывать более безопасные инструменты, то именно это и должно произойти. Сидеть и ждать, пока небезопасные продукты будут использованы не по назначению, прежде чем принимать меры, — это недопустимо», — говорится в заявлении.