Мать одного из детей Илона Маска заявляет, что его ИИ-бот не перестает создавать сексуализированные изображения ее дочери

Когда Эшли Сент-Клер попросила Grok, встроенный в платформу X бот с генеративным искусственным интеллектом, прекратить создавать сексуально откровенные изображения с ее участием, Grok ответил, что прекратит. Но этого не произошло. С тех пор Сент-Клер, известная как авторитетный консервативный контент-мейкер, у которой есть ребенок от владельца X Илона Маска, заявила, что видела, как Grok создавал множество других изображений с ее участием, некоторые из которых были основаны на фотографиях, сделанных, когда она была несовершеннолетней. Grok «заявил, что больше не будет создавать такие изображения меня, но в результате Grok создал по запросам пользователей еще бесчисленное количество изображений, которые были гораздо более откровенными, и в конечном итоге некоторые из них были с несовершеннолетними», — сказала Сент-Клер. «Фотографии меня в 14 лет, раздетой и в бикини». Введение в декабре функции редактирования изображений в Grok вызвало бурную реакцию, поскольку люди использовали ее для создания волны изображений, на которых женщины и дети были изображены в очень откровенных купальниках или нижнем белье. Сент-Клер — одна из многих женщин, чьи фотографии были изменены Grok, а некоторые превращены в сексуализированные видео. В субботу Маск написал: «Любой, кто использует Grok для создания незаконного контента, понесет те же последствия, что и при загрузке незаконного контента», в ответ на пост другого пользователя, защищавшего Grok от критики по поводу этого спора. В аккаунте X по безопасности также было опубликовано сообщение о том, что для решения этой проблемы будут удаляться посты, а также «навсегда блокироваться аккаунты и при необходимости проводиться работа с местными органами власти и правоохранительными органами». Этот инструмент позволяет пользователям с помощью подсказок ИИ просить Grok корректировать любое изображение, загруженное на платформу любым пользователем. В несексуальном примере, опубликованном в воскресенье, пользователь попросил Grok вставить свастику на изображение сюрреалистического плачущего лица. Но просмотр ответов Grok показывает, что в подавляющем большинстве случаев способность Grok удалять или изменять одежду на изображениях стала главным мемом для этого инструмента. xAI, компания, которая создала Grok и теперь владеет X, не ответила на запрос о комментарии по поводу заявлений Сент-Клер. Маск не ответил на запрос о комментарии. Сент-Клер, наиболее известная своими яркими комментариями в Интернете, начала публиковать посты по этому вопросу в воскресенье после того, как ее друг обратил ее внимание на эту проблему, как она рассказала в интервью в понедельник. Сент-Клер сказала, что в первом посте, который она увидела, пользователь попросил Grok одеть ее в бикини. Она сказала, что когда она попросила Grok удалить пост и сообщила, что не давала согласия на использование изображения, он ответил, что пост был «юмористическим». С этого момента посты только ухудшались, сказала она. Все больше людей начали просить Grok создавать сексуализированные дипфейки с ней, и некоторые из дипфейков были превращены в видео. NBC News просмотрела подборку изображений. Многие из этих изображений оставались в сети в понедельник вечером, хотя некоторые учетные записи, которые направили запросы в Grok, были заблокированы, а изображения удалены. Ofcom, регулирующий коммуникационную отрасль в Великобритании, заявил в понедельник, что «осведомлен о серьезных опасениях, вызванных функцией Grok на X, которая создает изображения обнаженных людей и сексуализированные изображения детей», и что он «незамедлительно связался с X и xAI, чтобы понять, какие меры они приняли для выполнения своих юридических обязательств по защите пользователей в Великобритании». В последние годы использование генеративного ИИ для создания реалистичных изображений резко возросло, и вместе с этим усилилось возмущение по поводу использования таких программ для создания откровенных изображений и видео реальных людей, часто называемых дипфейками. Многие платформы ввели правила, запрещающие создавать или публиковать поддельные сексуализированные изображения людей без их согласия. Маск поддержал использование ИИ для создания контента сексуального характера, интегрировав сексуализированный «пикантный» режим в текстовые чаты и разговоры с «компаньонами» Grok. Политика xAI запрещает пользователям создавать контент, сексуализирующий детей, но не содержит правил, запрещающих создание сексуальных изображений взрослых. Однако неясно, были ли правила xAI реализованы в ограничениях, наложенных на новую функцию редактирования изображений. На прошлой неделе, после выпуска этого обновления, пользователи быстро начали просить бота генерировать непристойные изображения, подобные тем, на которых изображена Сент-Клер. Хотя многие неуместные изображения, опубликованные Grok, были удалены, Grok продолжает создавать сексуализированные изображения лиц, не дававших на это согласия, в том числе детей, согласно обзору NBC News. xAI и Маск не ответили на запрос о комментарии. Сент-Клер рассказала, что один пользователь попросил Grok создать видео сексуального характера с ее участием на основе фотографии, на которой был рюкзак ее сына. «Рюкзак моего малыша был на заднем плане. Рюкзак, который он носит в школу каждый день. И мне приходилось просыпаться и смотреть, как он надевает его на спину и идет в школу», — сказала она. Сент-Клер рассказала NBC News, что «потеряла счет» тому, сколько изображений себя, созданных ИИ, она видела за последние несколько дней. Она добавила, что, по ее мнению, Маск «вероятно, видел это», но у нее «нет никакого желания» обращаться к нему лично. «Я не думаю, что было бы правильно с моей стороны решать эту проблему с помощью ресурсов, недоступных для бесчисленных других женщин и детей, с которыми это произошло, поэтому я использую основные ресурсы, доступные всем остальным», — сказала она. В то время как споры вокруг этой функции продолжаются, Маск хвалит другие изображения, отредактированные Grok, такие как тостер в бикини, и за последнюю неделю поделился множеством постов, в которых хвалит последнее обновление Grok и его возможности по генерации изображений. Поскольку изображения, измененные с помощью ИИ, продолжают циркулировать в Интернете, правительство и правозащитные группы начали обращать внимание на эту проблему. Politico сообщило, что французские власти будут расследовать деятельность X в связи с созданием несогласованных дипфейков с использованием Grok на платформе, что добавится к предыдущему расследованию в отношении платформы после антисемитских постов чат-бота в ноябре. За последние несколько лет X, по-видимому, отошла от многих практик модерации контента, используемых для контроля нежелательного контента. В июне Thorn, калифорнийская некоммерческая организация, которая сотрудничает с технологическими компаниями с целью предоставления технологий, способных обнаруживать и устранять контент, связанный с сексуальным насилием над детьми, сообщила NBC News, что расторгла контракт с X после того, как платформа перестала оплачивать счета за работу Thorn. X заявила, что продвигается вперед с собственной технологией для обнаружения и устранения материалов, связанных с сексуальным насилием над детьми, но после расторжения контракта NBC News наблюдала всплеск, по-видимому, автоматизированных учетных записей X, наводняющих хэштеги сотнями постов в час, рекламирующих продажу незаконных материалов. Фэллон Макналти, исполнительный директор отдела по делам эксплуатируемых детей Национального центра по делам пропавших и эксплуатируемых детей (NCMEC), сообщила NBC News, что в течение последних нескольких дней NCMEC получал сообщения от членов общественности о постах, распространяемых на X, которые были созданы с помощью Grok. Она сказала, что xAI обычно «на одном уровне с некоторыми другими компаниями, занимающимися искусственным интеллектом», когда речь идет о подаче сообщений в CyberTipline NCMEC. Согласно отчетам NCMEC, с 2023 по 2024 год количество сообщений X увеличилось на 150%. «Что вызывает наибольшую обеспокоенность, так это доступность и простота использования этой технологии. Когда она появляется на крупной платформе, это почти нормализует ситуацию и, безусловно, привлекает более широкую аудиторию, что также вызывает серьезную обеспокоенность», — сказала Макналти. «Но, опять же, без надлежащих мер безопасности очень тревожно, с какой легкостью преступник может получить доступ к этой технологии и создать изображения, которые нанесут вред детям и жертвам насилия». Сент-Клер сказала, что этот вопрос вызвал у нее еще большее беспокойство по поводу того, что ИИ — это отрасль, в которой доминируют мужчины и которая обслуживает другие отрасли, в которых также доминируют мужчины. «Когда вы создаете LLM [большую языковую модель], особенно такую, которая имеет контракты с правительством, и вытесняете женщин из диалога, вы создаете модель и монстра, который будет по своей сути предвзятым по отношению к мужчинам. Абсолютно», — сказала она, имея в виду возможные причины, по которым xAI с трудом решает эту проблему. Она считает, что единственный способ решить эту проблему — это высказаться против нее другим членам сообщества ИИ. «Давление должно исходить от самой индустрии ИИ, потому что они будут регулировать себя только в том случае, если выскажутся. Они будут что-то делать только в том случае, если другие стражи капитала выскажутся по этому поводу».