Правительство и прокуратура рекомендуют X запретить контент сексуального характера в Grok

Национальное агентство по защите данных (ANDP), Национальный секретариат по защите прав потребителей (Senacom) и Федеральная прокуратура (MPF) вынесли ряд рекомендаций компании, контролирующей цифровую платформу X, с тем чтобы инструмент искусственного интеллекта платформы, Grok, не использовался неправомерно для создания и распространения ненадлежащего контента сексуального характера. Согласно документу, опубликованному во вторник (20), среди рекомендаций есть создание в течение максимум 30 дней технических и операционных процедур для выявления, проверки и удаления такого рода контента, который все еще доступен на X, когда он генерируется Grok на основе команд, выполняемых пользователями. Учреждения также требуют немедленной приостановки действия учетных записей, причастных к производству сексуальных или эротических изображений, как детей и подростков, так и совершеннолетних, без их разрешения, созданных с помощью Grok. Также было рекомендовано внедрить «прозрачный, доступный и эффективный механизм, позволяющий владельцам данных осуществлять свои права», включая отправку жалоб о неправомерном, злонамеренном или незаконном использовании персональных данных, особенно в случаях создания синтетического сексуального или эротического контента без согласия, с обеспечением адекватного ответа в разумные сроки. Рекомендации были разработаны на основании жалоб пользователей, которые указали на создание синтетического контента сексуального характера на основе изображений реальных людей. Также были использованы репортажи, опубликованные в национальной и международной прессе, а также результаты тестов, проведенных учреждениями, которые указывают на незаконное использование этого инструмента пользователями для создания дипфейков, технологии искусственного интеллекта, которая создает поддельные изображения реальных людей. Этот контент носит сексуальный, эротический и порнографический характер и затрагивает реальных женщин, детей и подростков. Учреждения предупреждают, что такой контент может повлиять как на защиту персональных данных, так и на потребительские отношения, достоинство человека и другие неотъемлемые коллективные и индивидуальные права, особенно женщин, детей и подростков. Среди совместных рекомендаций есть такая, чтобы были немедленно приняты меры, направленные на предотвращение создания Grok новых изображений, новых видео или новых аудиофайлов, представляющих детей и подростков в сексуализированных или эротизированных контекстах», — утверждают учреждения. Рекомендации также направлены на предотвращение создания контента, изображающего идентифицированных или идентифицируемых совершеннолетних физических лиц в сексуальных или эротических контекстах без их разрешения. Эти меры могут быть приняты на административном и судебном уровне для обеспечения надлежащей защиты граждан страны, особенно женщин, детей и подростков.