Нарушения в Grok продолжаются, заявляют MPF, ANPD и Senacon

Федеральная прокуратура (MPF), Национальное агентство по защите данных (ANPD) и Национальный секретариат по защите прав потребителей (Senacon) оценили ответы, представленные платформой X, и пришли к выводу о недостаточности мер, о которых сообщила компания в отношении своего инструмента искусственного интеллекта (ИИ) Grok, который неправомерно используется для создания и распространения изображений людей в контексте сексуализации без их разрешения. В прошлом месяце эти три организации выпустили ряд рекомендаций для платформы X. Среди этих рекомендаций было принятие технических и операционных процедур для выявления, проверки и удаления такого рода контента, который все еще доступен на X, когда он генерируется Grok на основе команд, выполняемых пользователями. В своем ответе на совместную рекомендацию платформа X заявила, что удалила тысячи публикаций и заблокировала сотни учетных записей за нарушение своих политик, а также объявила о принятии мер безопасности. Однако, по оценке учреждений, представленная информация не сопровождалась конкретными доказательствами, техническими отчетами или механизмами мониторинга, позволяющими оценить ее эффективность. Предварительные тесты, проведенные техническими командами учреждений, указывают на сохраняющиеся недостатки, а также на продолжающееся создание и распространение контента, несовместимого с уже выданными рекомендациями», — сообщили MPF, ANPD и Senacon в своем заявлении. В новом заявлении, опубликованном в среду (11), три органа постановили, что X должен немедленно принять эффективные меры для предотвращения производства с помощью Grok сексуализированного или эротизированного контента с участием детей, подростков и взрослых, которые не дали на это согласия. Учреждения также предписали предоставить информацию о мерах, уже принятых компанией для устранения проблем, указанных в рекомендации. Федеральная прокуратура, в свою очередь, обязала X предоставлять ежемесячные отчеты о своих действиях по данному вопросу и подчеркнула, что компания не была прозрачной в своем ответе. ANPD, Федеральная прокуратура и Senacon действуют скоординированно в расследовании фактов, связанных с неправомерным использованием инструмента искусственного интеллекта Grok. Каждая институция имеет открытое административное разбирательство против платформы в соответствии со своими сферами компетенции. В случае ANPD превентивная мера требует, чтобы средства, предотвращающие неправомерное использование инструмента ИИ, охватывали все версии, планы и модальности Grok. В рамках MPF было потребовано направлять ежемесячные отчеты, начиная с февраля этого года, с подробными сведениями о том, как X действует для предотвращения и пресечения производства дипфейков с участием детей, подростков и совершеннолетних без их предварительного разрешения, с указанием количества вредных постов, которые были удалены, и количества учетных записей, вовлеченных в эти практики, которые были заблокированы в каждом отчетном периоде контролерами платформы. В случае невыполнения этого требования социальная сеть может быть оштрафована ежедневно. Вовлеченные лица также могут быть привлечены к ответственности за преступление неповиновения, а компания может подвергнуться более строгим следственным мерам, а также стать объектом судебного разбирательства, сообщила прокуратура. В качестве административной меры предосторожности Senacon потребовала подтверждения мер, уже принятых для сдерживания выявленных рисков и устранения проблем, указанных в совместной рекомендации. Также было потребовано предоставить подробный отчет, содержащий проверяемые количественные данные об идентификации, модерации, удалении и блокировке контента сексуального характера, связанного с работой Grok, включая количество идентифицированного и удаленного контента, средние сроки ответа, использованные технические критерии и возможные дополнительные корректирующие меры, такие как приостановка учетных записей или ограничение функциональности. Журналисты пытаются связаться с представителями Платформы X в Бразилии, чтобы получить комментарий по поводу этого нового совместного заявления MPF, ANPD и Senacon.