Балтимор подал иск против компании xAI Маска в связи с созданием Grok изображений откровенно сексуального характера

Во вторник город Балтимор подал иск против компании xAI, занимающейся искусственным интеллектом и принадлежащей Илону Маску, утверждая, что её инструмент Grok продолжает генерировать изображения сексуального характера без согласия пользователей, что является нарушением городских законов о защите прав потребителей и о вводящей в заблуждение практике. В иске утверждается, что пользователи социальной сети Маска X подвергаются риску столкнуться с контентом, сгенерированным Grok, «просто используя популярную потребительскую социальную сеть», и рискуют, что их собственные фотографии будут «превращены в унизительные с сексуальной точки зрения дипфейки без их ведома или согласия». Согласно иску, поданному в Окружной суд города Балтимор, власти Балтимора заявили, что эти риски не соответствуют маркетингу xAI, который, по их словам, позиционирует Grok и X как безопасные платформы и продукты для пользователей. «Жители Балтимора имеют обоснованные ожидания, что они не будут подвергаться воздействию этого незаконного контента на X и что X не будет преследовать своих собственных клиентов с помощью дипфейков, сгенерированных Grok», — говорится в иске. В своем иске город заявил, что «наиболее спорные предложения» Grok, получившие название «spicy mode», позволяют пользователям просить Grok раздевать или обнажать на фотографиях знаменитостей и обычных граждан, включая детей. В результате это помещает многих в «сексуально откровенные, унизительные или насильственные сценарии», говорится в иске. В анализе, на который ссылается иск, Центр по борьбе с цифровой ненавистью сообщил, что в период с 29 декабря 2025 года по 8 января 2026 года Grok создал три миллиона изображений сексуального характера, в том числе около 20 000 с изображением детей. Город Балтимор утверждает, что Grok вносил в контент «непристойные и оскорбительные изменения», в том числе наносил «глазурь для пончиков» на лицо ребенка. В другом случае женщина-жертва утверждает, что Grok «без ее согласия раздевал ее и в конечном итоге создавал изображения, на которых она была полностью обнажена». Создание Grok таких изображений часто происходило в результате запросов пользователей к Grok. Создание изображений с раздеванием с помощью Grok стало трендом среди пользователей в январе. Город также утверждал, что сам Маск продвигал возможности инструмента по редактированию, участвуя в этом тренде путем публикации отредактированной фотографии себя в бикини. «Пост Маска послужил публичным одобрением способности Grok создавать сексуализированные или откровенные редакции изображений реальных людей и дал понять пользователям, что такое использование Grok является приемлемым, юмористическим и поощряется», — говорится в иске. В конце концов, X ограничил некоторые возможности Grok по созданию таких изображений непосредственно на платформе, но Grok по-прежнему мог создавать такие изображения в других частях приложения, а также на своем отдельном веб-сайте и в отдельном приложении. В своем заявлении мэр Балтимора Брэндон М. «Эти дипфейки, особенно те, на которых изображены несовершеннолетние, имеют травмирующие последствия на всю жизнь для жертв, которые оказываются лишенными возможности предотвратить распространение тревожных, сексуализированных изображений, созданных с их участием без их согласия», — заявил мэр Балтимора Брэндон М. Скотт. Скотт добавил: «Наш город не будет стоять в стороне и позволять этому продолжаться; это угроза частной жизни, достоинству и общественной безопасности, и виновные должны понести ответственность». Балтимор добивается «максимального размера предусмотренных законом штрафов», однако в иске не указана общая сумма ущерба. Город также призывает суд обязать компанию Маска «прекратить преследование и эксплуатацию жителей Балтимора» и требует от нее «реформировать ограничения, связанные с эксплуататорскими особенностями дизайна платформы, а также усилить ограничения в области маркетинга», согласно документу. На прошлой неделе группа подростков из Теннесси подала иск против xAI, утверждая, что Grok создал изображения с откровенным сексуальным содержанием, на которых они были изображены как несовершеннолетние. Балтимор, по-видимому, стал первым городским правительством, которое подало такой иск против xAI. С тех пор как в начале января тенденция к «раздеванию» вызвала споры, правительства и политические органы, включая ЕС, штат Калифорния и демократов в Палате представителей, объявили о различных расследованиях и проверках в отношении Grok и его способности «раздевать» людей. xAI и X не сразу ответили на запрос NBC News о комментарии.