Эшли Сент-Клер, мать одного из детей Илона Маска, подала в суд на xAI из-за сексуальных изображений в Grok

Эшли Сент-Клер, мать одного из детей Илона Маска, в четверг подала в суд на компанию xAI, занимающуюся искусственным интеллектом, принадлежащую Маску, утверждая, что гигант в области ИИ проявил халатность и нанес ей эмоциональный ущерб, позволив пользователям своего инструмента ИИ под названием Grok создавать дипфейковые фотографии с ней в откровенных позах и не ограничив в достаточной мере такое поведение после ее жалоб. Иск был подан после нескольких недель растущей негативной реакции на способность Grok генерировать несогласованные дипфейки, позволяя пользователям удалять одежду с людей, изображенных на фотографиях, загруженных в сервис, и часто заменяя одежду бикини или нижним бельем. Ее иск был подан в государственный суд Нью-Йорка, но быстро перенесен в федеральный Южный округ Нью-Йорка по запросу xAI. Сент-Клер уведомила xAI о том, что пользователи создают незаконные дипфейк-фотографии ее «в детском возрасте, раздетой до стрингов», и «в зрелом возрасте в откровенных позах», и потребовала запретить сервису Grok создавать изображения без ее согласия, говорится в иске. В иске утверждается, что, несмотря на то, что Grok подтвердил, что «ее изображения не будут использоваться или изменяться без явного согласия в будущих поколениях или ответах», xAI продолжал позволять пользователям создавать более откровенные изображения ее с помощью ИИ и вместо этого отомстил, демонетизировав ее аккаунт X. X и xAI не сразу ответили на запрос о комментарии. В четверг xAI подал иск против Сент-Клер. Клэр в федеральном суде Техаса, заявив, что она нарушила условия предоставления услуг xAI, и потребовав возмещения ущерба в размере более 75 000 долл. В своем иске xAI заявила, что любые иски против компании должны подаваться либо в федеральный суд Северного округа Техаса, либо в суды штата в округе Таррант, Техас. На прошлой неделе X ограничила возможности бота @Grok, по-видимому, не позволяя ему генерировать изображения, на которых без согласия изображены узнаваемые люди в откровенных купальниках или нижнем белье. На момент публикации этой статьи эти возможности оставались неизменными в отдельном приложении Grok, на веб-сайте Grok и в специальной вкладке Grok на X. Grok в течение нескольких недель создавал огромное количество сексуализированных изображений, сгенерированных искусственным интеллектом, и, по данным исследователей, на прошлой неделе их количество достигало тысяч в час. Многие из этих изображений были опубликованы на X. Создание и распространение сексуализированных изображений без согласия изображенных на них людей вызвало резонанс во всем мире, включая несколько правительственных расследований и призывы к магазинам приложений для смартфонов запретить или ограничить X. Однако регулирующие органы и другие технологические компании не стали ограничивать приложение. Генеральный прокурор Калифорнии начал расследование в отношении Grok в среду, после того как губернатор Гэвин Ньюсом написал на X, что «решение xAI создать и поддерживать площадку для распространения несогласованных сексуальных глубоких подделок, созданных с помощью искусственного интеллекта, включая изображения, на которых детей раздевают с помощью цифровых технологий, является отвратительным». Св. В иске Клер утверждается, что функция Grok, позволяющая пользователям создавать несогласованные дипфейки, является конструктивным дефектом и что компания могла предвидеть использование этой функции для преследования людей с помощью незаконных изображений. В иске говорится, что лица, изображенные в дипфейках, в том числе Сент-Клер, испытали сильный стресс. «Ответчик совершил крайне возмутительные действия, выходящие за рамки приличия и совершенно недопустимые в цивилизованном обществе», — говорится в иске.