До 30 лет тюрьмы для студента, который использовал искусственный интеллект для создания порно с лицами одноклассников

Студент Высшего института коммерции Мануэль Бельграно, входящего в состав Национального университета Кордовы, предстанет перед судом после того, как его обвинили в использовании искусственного интеллекта (ИИ) для наложения лиц своих однокурсников на женские тела в порнографических видеороликах. «Жалоба была подана в июле 2024 года отцом одной из жертв, после того как выяснилось, что молодой человек манипулировал изображениями по меньшей мере 16 подростков в возрасте от 15 до 16 лет, используя технику подмены лиц. Изображения были опубликованы на сайте для взрослых, сопровождались сгенерированными искусственным интеллектом описаниями, которые объективировали жертв и содержали ссылки на их социальные сети, что облегчало им контакт с незнакомцами. «Прокурор по делу, Пабло Куэнка Тагле, заявил, что собранные доказательства „изобилуют“ и позволяют двигаться к вынесению обвинительного приговора. Он также сообщил, что пострадавшим ученикам был нанесен «серьезный психологический ущерб», включая снижение успеваемости в школе и спорте, изменения в распорядке дня, стыд, вялость и страх. «Со своей стороны, адвокат трех жертв, Хосе Дантона, предупредил, что, хотя некоторые изображения были удалены, другие все еще циркулируют в Интернете, связанные с настоящими именами подростков, что наносит им постоянный ущерб. «Ни институты, ни законодательство не готовы к негативным последствиям, которые может вызвать искусственный интеллект», - сказал он в интервью радиостанции Cadena 3. Дантона также отметил, что „подмена лиц“ не прописана в аргентинском Уголовном кодексе, поэтому ему пришлось искать „юридический короткий путь“ для квалификации преступления. «Обвиняемому может грозить от 20 до 30 лет тюрьмы, если его признают виновным. С конца 2022 года программы искусственного интеллекта, доступные широкой публике, стали множиться. В прошлом году национальный депутат Хуан Брюгге (Кордоба; блок Hacemos Coalición Federal) представил законопроект, призванный регулировать использование ИИ «ответственным» образом. В тексте говорится о необходимости создания правовой базы, основанной на разработке, внедрении на рынок и использовании систем искусственного интеллекта в стране; «поощрении этичного применения» и «принятии надежного и безопасного, защищающего здоровье, безопасность и основные права людей, от вредных последствий, которые могут возникнуть в результате его использования». Инициатива устанавливает некоторые «руководящие» принципы, в том числе прозрачность. Она предупреждает, что «возможные риски» использования ИИ должны быть доведены «ясным и понятным образом до широкой общественности и пользователей в каждом конкретном случае». В нем добавляется, что «должно быть обеспечено, чтобы тот, кто взаимодействует с технологической системой искусственного интеллекта, „знал об этом обстоятельстве; соответствие может быть подтверждено четкой визуальной и/или слуховой идентификацией, которая информирует пользователя с предупреждением о том, что определенный контент, запись или технология содержат элементы, которые полностью или частично были созданы с помощью генеративного искусственного интеллекта или аналогичных технологий“. В этой предлагаемой статье также упоминается принцип прослеживаемости («необходимо обеспечить, чтобы результаты использования алгоритмов искусственного интеллекта были известны, чтобы можно было узнать основу для действия, прогноза, рекомендации или решения»); конфиденциальности и безопасности («конфиденциальность данных должна быть защищена») и надежности и адекватной воспроизводимости, «чтобы реальность, запечатленная искусственным интеллектом во всех ее аспектах, аудиовизуальное воспроизведение, аудиовизуальное воспроизведение, аудиовизуальное воспроизведение, аудиовизуальное воспроизведение, аудиовизуальное воспроизведение, аудиовизуальное воспроизведение, аудиовизуальное воспроизведение, аудиовизуальное воспроизведение, аудиовизуальное воспроизведение, аудиовизуальное воспроизведение, аудиовизуальное воспроизведение»), во всех его аспектах, аудиовизуальное воспроизведение, аудиозаписи, фотографии и т.д., не подвергаются изменениям, особенно при использовании в качестве цифровых доказательств в судебных разбирательствах».