Правосудие обязало Enacom заблокировать сайт, использующий искусственный интеллект для создания поддельных интимных изображений

Судья в Корриентесе приказал Национальному управлению коммуникаций (Enacom) немедленно заблокировать сайт в Аргентине, который использует передовые модели искусственного интеллекта (ИИ) для создания манипулируемых интимных изображений. Он приказал «вмешаться компании Enacom, потребовав немедленно заблокировать доступ из Аргентины к веб-сайту приложения и его DNS-серверам» и «уведомить специализированное подразделение прокуратуры по борьбе с киберпреступностью (Ufeci) для сотрудничества в расследовании и содействия мерам по выявлению виновных». Как сообщалось, «дело было возбуждено по жалобе одного из родителей, который сообщил название приложения, используемого для манипулирования изображениями подростков, генерируя ложный сексуальный контент без согласия». Это «цифровой инструмент, который, согласно отчету отдела информационной безопасности судебной власти, использует передовые модели искусственного интеллекта для цифрового удаления одежды на фотографиях и имитации интимных изображений». Контент распространялся через WhatsApp, и суд подчеркнул, что конкретный ущерб был нанесен использованием этого приложения, которое позволяет создавать ложные изображения без контроля и проверки, нарушая неприкосновенность частной жизни, достоинство и личность жертв. В техническом отчете, подготовленном отделом информационной безопасности департамента информационных технологий судебной власти Корриентеса под руководством Хосе Николаса Бруццо, подробно описано, как работает приложение: «Было указано, что оно использует передовые модели искусственного интеллекта, такие как генеративные антагонистические сети (GAN) и диффузионные модели, для имитации цифрового удаления одежды на реальных фотографиях, создавая манипулируемые изображения, нарушающие частную жизнь и достоинство людей». Кроме того, сайт не имеет возрастного контроля, безопасного хранения и прозрачности в отношении своих разработчиков, что повышает риск злоупотреблений, домогательств и распространения интимного контента без согласия".