История деревни с населением 3000 человек, в которой порно-дипфейки разрушили жизнь десяткам женщин

В сентябре 2023 года Эли получила звонок от своей дочери. В отчаянии и со слезами на глазах она призналась, что ее лицо было отретушировано и наложено на изображение обнаженной женщины, а затем распространено в Telegram-группе, состоящей исключительно из мужчин. Группа называлась «Девушки из Санхе и окрестностей», по названию Сан-Херонимо-Суд, небольшого населенного пункта в провинции Санта-Фе с населением всего 3000 человек. Ее участники запрашивали фотографии женщин из этого населенного пункта, а один из них с помощью искусственного интеллекта (ИИ) создавал их, чтобы затем поделиться с другими мужчинами из этого района. В этой группе циркулировали изображения более 80 женщин из деревни, 18 из которых решились подать жалобу. «Встретившись с некоторыми из них, Эли обнаружила две правды, которые навсегда изменили ее жизнь. Первая: ее дочь была не единственной жертвой. Она тоже появлялась обнаженной на этих изображениях, столь же реалистичных, сколь и тревожных. Вторая: создателем этих изображений был не незнакомец, а ее сосед, с которым она всю жизнь жила по соседству и с которым она будет продолжать встречаться на улице, не неся за это никаких последствий. Причина? То, что он сделал, не считалось преступлением в Аргентине. И по сей день это так и остается». Сексуальные и порнографические изображения женщин, созданные с помощью искусственного интеллекта, относятся к категории так называемых дипфейков [ультраподделок], которые заключаются в создании или редактировании с помощью искусственного интеллекта изображений реальных или несуществующих людей. Проблема возникла в 2017 году одновременно с ростом искусственного интеллекта в мире. Случаи начали появляться в разных странах. Многие из них возникли на форумах социальной сети Reddit, где сексуальные дипфейки пытались изменить видео с актрисами или певицами и сделать их порнографическими. «Всю жизнь ты стараешься поступать правильно, а один клик может разрушить твою жизнь», — сетовал Илай. Случай в Сан-Херонимо-Суд был одним из самых известных в Аргентине. Он начался 15 сентября 2023 года, когда несколько женщин из этого города начали получать сообщения от своих соседей и знакомых с предупреждением, что в Telegram, мессенджере, известном отсутствием регулирования контента и одновременно крайней защитой личности пользователей, распространяющих, как в данном случае, порнографические или насильственные материалы, циркулируют их порнографические изображения. Команда Ley Olimpia в Аргентине насчитала по крайней мере 30 000 групп в стране, которые распространяют интимные, сексуальные материалы, материалы о сексуальной эксплуатации девочек, женщин и подростков, во многих случаях созданные с помощью искусственного интеллекта. Эти чаты в основном распространяются в Telegram. «Нильда узнала об этом, когда ей позвонила подруга. «Она сказала, что знает, что это не я, потому что она это поняла. Но она моя давняя подруга и знает меня. Мне пришлось позвонить своему сыну, которому тогда было 21 год, чтобы объяснить ему, что в сети появились фотографии, но это не я», — вспоминает она. Нильда встретила других женщин, которые говорили, что пережили то же самое, и вместе они создали группу в WhatsApp, встревоженные тем, о чем они ничего не знали. «Мы пошли поговорить с председателем общины здесь, в деревне, но она сказала, что это частное дело. Мы пошли в полицейский участок, но там не знали, как принять наше заявление», — пояснила она. Они обратились к судье по мелким делам, который привел их в суд и выслушал каждую по очереди. Но это было бесполезно: дело не могло быть возбуждено. «Жертвы подали жалобу на номер телефона в Telegram, который в этой сети был указан как A.O. Однако, когда его связали с Whatsapp, он был указан под именем женщины, которая жила в деревне — напротив дома, в котором всю жизнь жила Эли, — и которая за день до подачи жалобы жертвами заявила, что ее мобильный телефон был взломан. Она и ее муж были главными мишенями. «Это было похоже на доставку. Были люди, которые заказывали и потребляли. Они писали: «У тебя есть фото такой-то девушки из Сан-Херонимо?», и этот человек занимался их изготовлением. Были ужасные комментарии», — отметила Нильда. «Мне пришлось пойти предупредить своих родителей, потому что мы живем напротив. Моя дочь имеет свой бизнес напротив, а я живу в 20 метрах от нее. Это была странная и извращенная ситуация», — добавила Эли. «В довершение ко всему, Telegram блокирует возможность делать скриншоты разговоров, из-за чего жертвам приходилось фотографировать каждый чат с другого мобильного телефона. 18 женщин заявили о случившемся в прокуратуру Сан-Лоренцо. Спустя некоторое время был проведен обыск в доме пары, где был изъят телефон 49-летнего мужчины и обнаружено, что фотографии находились в этом мобильном устройстве. «Однако обыск был связан не с заявлением о дипфейках, а с судимостью мужчины за распространение и оборот порнографических материалов, о которой сообщила НПО Missing Children. У него изъяли шесть мобильных телефонов, два флеш-накопителя, ноутбук, 29 дисков, камеру и пять файлов памяти. Они обнаружили созданные с помощью ИИ сексуальные изображения взрослых женщин и несовершеннолетних. Также были обнаружены видео и изображения детской порнографии с участием неизвестных детей. Несмотря на то, что на устройствах было обнаружено более 48 000 изображений, мужчина не был арестован и вместе с женой и маленькой дочерью переехал в соседний город Рольдан. До сих пор они остаются безнаказанными. «Создание порнографических дипфейков — явление, которое получило чрезвычайное распространение с конца пандемии. Однако большинство правительств мира не имеют нормативных актов или законов, позволяющих контролировать и наказывать за распространение сексуального контента, созданного с использованием изображений взрослых. Один из крупнейших нормативных рамок существует в Европейском союзе, где действует Закон о цифровых услугах. В соответствии с этим законом владелец Telegram, российский предприниматель Павел Дуров, был арестован в августе 2024 года, когда приземлился на своем частном самолете в Париже. Судебные власти обвинили его, среди прочего, в предполагаемом соучастии в функционировании платформы, позволяющей осуществлять незаконные транзакции, распространять изображения сексуального насилия над детьми, заниматься наркоторговлей и мошенничеством, а также в отказе предоставить французским властям информацию об отмывании денег и предоставлении зашифрованных услуг преступникам. Дуров был освобожден под залог и с условием два раза в неделю явятся в Дворец правосудия. Дуров отверг обвинения. «Но проблема не в Telegram, в любом случае это один из каналов, где это происходит. Десятки веб-сайтов, специализирующихся на создании такого рода контента, процветают в Интернете, где анонимные пользователи используют их для массового производства и распространения. Всего два месяца назад веб-сайт Mrdeepfakes, известный как страница с наибольшим количеством просмотров такого контента в мире, объявил о закрытии после семи лет работы. Это произошло после потери ключевого поставщика услуг и активной кампании против сайта. Согласно исследованию Стэнфордского университета, к ноябрю 2023 года сайт был ответственен за 43 000 сексуальных дипфейков 3800 человек. 95,3% из них были женщинами. Другие сайты продолжают процветать, часто используемые пользователями для «порно-мести», угроз и т. д. Затем они продают этот контент в даркнете. «Порно-дипфейки сегодня не наказываются в Аргентине. Это явление существует уже несколько лет, и жертвы, адвокаты и НПО ведут упорную борьбу за то, чтобы такие действия были включены в Уголовный кодекс как преступление, в частности в статью 128, которая в настоящее время предусматривает наказание для тех, кто производит, публикует или распространяет порнографические изображения несовершеннолетних». Основным основанием для их включения является то, что педофилы используют искусственно созданные материалы с детьми, совершающими сексуальные действия, чтобы соблазнить других детей к насилию и сделать его нормой. Это метод вербовки», — отметила руководитель Специализированного отдела по компьютерным преступлениям и правонарушениям города Буэнос-Айрес Даниэла Дюпуй. По словам прокурора, это способствует постоянному распространению такого рода материалов: «В 2024 году в прокуратуру поступило 124 000 дел, связанных с материалами с участием реальных детей и подростков, что составляет 300-400 дел в день. Если к этому добавить легкость создания таких фотографий или видео, их количество будет расти и, вместо того чтобы отпугнуть педофилов, будет побуждать их продолжать запрашивать материалы, созданные с помощью искусственного интеллекта. С развитием ИИ эти гиперреалистичные изображения становится все труднее распознать как поддельные, даже с помощью экспертизы. Проблема заключается не только в правовом вакууме, но и в том, что этот контент размещается на платформах и в социальных сетях, где нет регулирования. Как только изображения распространяются в широких масштабах, они навсегда остаются в руках пользователей. «Я могу попросить платформу удалить контент, но проблема в том, что один или несколько человек могли скачать файл и снова загрузить его в сети. Это латентная, третичная виктимизация, потому что жертва страдает не только от совершения преступления, но и от своего окружения. Это влияет на ее социальную, семейную, школьную жизнь (если она несовершеннолетняя). И она живет в страхе», — пояснил Дюпюи. «Недавно Апелляционная палата Зарате-Кампана вынесла историческое решение: она постановила, что статья 128 Уголовного кодекса распространяется на изображения детей, созданные или измененные с помощью искусственного интеллекта, даже если реальных жертв нет. Это первый случай в стране. Однако в настоящее время нет законодательства, которое бы охватывало взрослых, затронутых этим явлением. И конфликт с платформами продолжается. «В Аргентине нет законодательства, которое обязывало бы их выполнять административные запросы пользователей [об удалении дипфейков]. Это вызывает большое сопротивление со стороны крупных платформ, которые имеют большую власть. Уже 15 лет мы не можем принять закон о несанкционированном распространении интимных материалов, и все представленные законопроекты проваливаются», — жалуется Флоренсия Зерда, юрист и основательница GENTIC, организации, которая продвигает активизм против гендерного кибернасилия. В крупных компаниях, таких как Meta, существуют политики по подаче жалоб на аккаунты, которые занимаются сексторсией или загружают несогласованный контент сексуального характера, с основным акцентом на несовершеннолетних. Однако после того, как изображения были опубликованы, нет никаких гарантий, что они будут быстро удалены. Некоторые запросы могут занимать дни, недели или вообще никогда не быть решенными. Депутат Моника Мача, одна из главных инициаторов включения сексуальных дипфейков в Уголовный кодекс, отметила, что диалог с платформами «не идет гладко». «Мы боимся всего. В сентябре исполняется два года с момента произошедшего, а мы все еще плывем против течения», — сожалеет Нильда. Она, Эли и еще четыре женщины являются истцами в иске, поданном в прокуратуру Сан-Лоренцо. Остальные жертвы решили не вмешиваться из-за сильного воздействия, которое распространение дипфейков оказало на их жизнь. «Депрессия, панические атаки, разрывы отношений с партнерами и изменения в работе — вот основные проблемы, с которыми столкнулись те, кто был подвергнут дискредитации со стороны этого жителя Сан-Херонимо-Суд. До сих пор их преследует страх повторной виктимизации: что те, кто скачал эти изображения на свои мобильные телефоны, могут снова их опубликовать. «Мы не знаем, кто еще стоит за этим», — заявила Эли. «Я сижу здесь и не знаю, есть ли кто-то в другой части страны, кто смотрит эти фотографии», — сказала Нильда. Кроме того, в дипфейках были указаны имена и фамилии женщин, которые на них появлялись. «Там были наши имена, наши лица... некоторые видео казались реальными. Ты смотришь на них и... это похоже на меня, но это не я», — отметила она. Эли добавила: «Когда ты идешь на встречу в какое-нибудь место и говоришь, что ты из Сан-Херонимо, и люди узнают этот город, ты замираешь. Первая мысль — что они знают о фотографиях». Как только жертвы получили доступ к изображениям, найденным в телефоне мужчины, они заметили, что он не только крал изображения из их социальных сетей, но и фотографировал своих жертв из овощного магазина, который принадлежал ему и где он работал со своей женой. Он также делал это в общественной мастерской, куда отправляли его дочь. «Я была его одноклассницей с дошкольного возраста. И соседями. Если бы ты спросил меня, считала ли я его способным на такое? «Я бы тебе отказала», пробормотала Эли. С того момента их жизни полностью изменились. Эли, владелица студии пилатеса, перестала публиковать фотографии своей работы, поскольку мужчина использовал их для создания других изображений, где спортивные позы превращались в сексуальные. «Это сильно ограничило меня в работе. Раньше мы всегда снимали видео с ученицами... теперь это закончилось. Я перестала принимать мужчин в своем студии. Моим родителям до сих пор очень тяжело, что их дочь и внучка... это ужасно». В течение года семья Эли сопровождала ее, принимая меры безопасности: ее отец следил за ней, когда она выходила с работы, а ее муж ждал ее у дома, когда она возвращалась. Кроме того, Эли более шести месяцев ничего не публиковала в социальных сетях. Это также изменило то, как ее воспринимали в обществе. Несколько мужчин из деревни были в группе Telegram, где распространялись эти изображения. «Моему мужу позвонили и сказали: «Эй, можно посмотреть фото?». Есть такая извращенная любопытность», — рассказала Эли. Нильда тоже страдала из-за своего партнера: «Это сильно повлияло на нашу интимную жизнь, вплоть до разрыва. Мне было очень плохо. Это нанесло мне физический вред. Каждый раз, когда я говорю об этом, у меня мурашки по коже. Никто не знает, как тебе помочь, и мы не знали, что делать», — вспоминает она. «Ты чувствуешь себя одинокой. И хочешь поднять голос, но на другом конце нет никого, кто бы тебя услышал». «В связи с отсутствием в Уголовном кодексе квалификации этого преступления, жертвы из Сан-Херонимо-Суд были вынуждены подать заявление о клевете. «Не может быть, чтобы не было закона, защищающего женщин. Потому что в конечном итоге это приводит к защите насилия», — добавила Эли. Юлиана Тальяти, адвокат жертв и член Центра правовой помощи, заявила, что действующее законодательство оставляет жертв «в неопределенности». «Мы, адвокаты, должны посмотреть, к какому преступлению его отнести. Мы должны думать очень творчески и рискованно», — отметила она. И добавила: «Ущерб настолько велик, что остается сомнение, были ли это они или нет на уровне репутации. Как только это происходит, очень трудно доказать, что фотографии являются поддельными, и очень трудно исправить ущерб от этого насилия, жертвами которого являются в основном женщины». «На данный момент в Национальном конгрессе было представлено ряд законопроектов, направленных на квалификацию этих действий по статье 128 Уголовного кодекса. GENTIC и организация Ley Olimpia, которая боролась за то, чтобы цифровое насилие считалось преступлением, основываясь на опыте Олимпии Корал Мело, мексиканской активистки, которая стала жертвой несанкционированного распространения интимного видео, являются одними из его главных инициаторов». Закон Олимпии в Аргентине предложил включить цифровое насилие в качестве одной из форм насилия в отношении женщин и ЛГБТ-сообщества в Закон 26.485. Это признание нового вида насилия, которое показало необходимость инвестировать и выделять бюджет на политику по предотвращению, оказанию помощи и сопровождению жертв», — пояснила депутат Моника Мача, одна из главных инициаторов закона «Олимпия», уже принятого в стране. «Сейчас Мача и различные организации борются за принятие и вступление в силу закона «Белен», который предусматривает включение цифрового насилия в Уголовный кодекс. «Он также предполагает, что ответственность несет не только тот, кто загружает материал, но и тот, кто его распространяет», — проанализировала она. Сюда входит создание и распространение сексуальных изображений, созданных с помощью искусственного интеллекта. И даже если закон будет принят, предстоит еще много работы. «Может потребоваться много лет, чтобы сформировать осознание того, насколько вредным может быть такое поведение, которое необходимо рассматривать в рамках образования и государственной политики. Общество должно проснуться и сделать шаг вперед», — заключила адвокат Флоренсия Зерда.