Сенаторы призвали Apple и Google удалить приложения Musk’s X и Grok из магазинов приложений из-за сексуальных дипфейков.

В четверг вечером три сенатора-демократа призвали Apple и Google удалить приложения X и Grok Илона Маска из своих магазинов приложений после того, как инструмент искусственного интеллекта Grok от xAI был использован для наводнения X сексуализированными изображениями реальных людей без их согласия. Через несколько часов X скорректировала работу Grok в социальной сети, ограничив генерацию изображений только для платных премиум-подписчиков и, по-видимому, ограничив типы изображений, которые Grok может создавать в X. На этой неделе бот Grok в X генерировал тысячи сексуальных изображений в час, в основном женщин, но иногда и детей. В пятницу утром, похоже, эта функция была ограничена в приложении для социальных сетей. Однако в отдельном приложении и на веб-сайте Grok по-прежнему будет создавать сексуализированные дипфейки. В открытом письме генеральному директору Apple Тиму Куку и генеральному директору Google Сундару Пичаи сенаторы Рон Уайден из Орегона, Эд Марки из Массачусетса и Бен Рей Лухан из Нью-Мексико попросили компании «применять» условия обслуживания, которые, по-видимому, запрещают деятельность, которая была широко распространена на X и по-прежнему возможна на Grok. Условия обслуживания App Store от Apple и Play Store от Google, по-видимому, запрещают приложения, которые позволяют использовать сексуализированные изображения людей без их согласия, написали сенаторы. «Apple и Google должны удалить эти приложения из магазинов приложений до тех пор, пока не будут устранены нарушения политики X». Более недели пользователи просили официального чат-бота Grok генерировать сексуализированные изображения людей без их согласия, одевая их в более откровенную одежду, такую как купальники и нижнее белье. «Пользователи X использовали инструмент Grok AI приложения для массового создания сексуальных изображений реальных частных лиц без их согласия», — написали сенаторы. «Эта тенденция включала в себя изменение Grok изображений, на которых женщины подвергались сексуальному насилию, унижению, травмированию и даже убийству». «Закрывать глаза на вопиющее поведение X означало бы издеваться над вашими методами модерации. Более того, бездействие подорвало бы ваши заявления в публичном пространстве и в суде о том, что ваши магазины приложений предлагают более безопасный пользовательский опыт, чем возможность пользователей загружать приложения напрямую на свои телефоны», — заявили они. Действия X в пятницу утром, по крайней мере частично, кажутся ответом на продолжающуюся негативную реакцию на производство Grok сексуальных дипфейков, но Маск и X не указали, что будет более широкое ограничение возможностей Grok на всех платформах, включая загружаемое приложение Grok, которое остается в магазинах приложений Google и Apple. В воскресенье Маск и X повторно заявили, что создание незаконного контента приведет к исключению из платформы, хотя большая часть контента, создаваемого чат-ботом, не подпадает под эту категорию. В условиях обслуживания Apple для App Store говорится, что «приложения не должны содержать контент, который является оскорбительным, нечувствительным, вызывающим расстройство, предназначенным для вызывания отвращения, исключительно дурного вкуса или просто пугающим». Сюда входят «откровенно сексуальные или порнографические материалы, определяемые как «явное описание или изображение половых органов или действий, предназначенных для стимулирования эротических, а не эстетических или эмоциональных чувств»». App Store также заявляет, что приложения не должны допускать «клеветнического, дискриминационного или злонамеренного контента», особенно «если приложение может унизить, запугать или нанести вред конкретному лицу или группе лиц». Условия обслуживания Google для Play Store гласят, что он «не допускает приложения, которые содержат или продвигают контент, связанный с сексуально агрессивным поведением, или распространяют сексуальный контент без согласия участников». И Apple, и Google ранее удаляли приложения, посвященные «обнажению» изображений реальных людей. В настоящее время Grok и X популярны в магазинах приложений Google и Apple. В пятницу утром Grok, где, по-видимому, по-прежнему разрешено создавать сексуальные дипфейки, занимал 4-е место в App Store Apple и 10-е место в Google. Ни одна из компаний не ответила на запрос о комментарии по поводу письма сенаторов, а также на предыдущие вопросы NBC News о том, как компании рассматривают роль X в распространении сексуальных изображений без согласия. Маск, владелец как X, так и xAI, компании по искусственному интеллекту, которая обеспечивает работу Grok, давно ведет кампанию против жесткой модерации, которую он приравнивает к «цензуре». В декабре он представил версию Grok, которая манипулирует изображениями реальных людей. Обзор NBC News некоторых из глубоких поддельных изображений, созданных на этой неделе, показал, что на большинстве из них изображены женщины в откровенной одежде, но на некоторых — дети. На некоторых изображениях пользователи успешно заставили Grok одеть людей в прозрачное или полупрозрачное нижнее белье, фактически сделав их обнаженными.