Глубокие подделки в мировой политике: когда мы больше не можем верить в то, что видим

Скандал вокруг фальшивого видео Маурисио Макри, объявившего о снятии Сильвии Лоспеннато со своей кандидатуры, не только отражает влияние искусственного интеллекта на политическую жизнь нашей страны, но и присоединяется к другим подобным случаям по всему миру, когда доверие и авторитет политиков - фундаментальных столпов демократии - были ослаблены. Дипфейки, возникшие как источник развлечения, теперь могут рассматриваться как политическая и социальная угроза. Дипфейки - это синтетический контент, созданный искусственным интеллектом, который объединяет методы глубокого обучения и генеративные антагонистические сети (GAN) для создания высокореалистичных поддельных видео, изображений или аудиозаписей, которые позволяют нам увидеть, как люди говорят или делают то, чего никогда не было. "Хотя технические корни этой технологии уходят в конец 1990-х годов, слово deepfake вошло в общественный лексикон в 2017 году после серии поддельных порнографических видео с участием знаменитостей. С тех пор его сложность и доступность выросли до такой степени, что сегодня любой человек со среднемощным компьютером может сделать такой фейк, перенеся лицо одного человека на тело другого в видео или, что стало более распространенным, сгенерировав новое лицо и заставив его двигаться по своему желанию". «В апреле 2018 года американский режиссер Джордан Пил провел эксперимент с новостным порталом BuzzFeed, создав реалистичное видео, в котором Барак Обама говорит, что Дональд Трамп - »полный и абсолютный кретин". Несмотря на технические ограничения того времени, контент получился настолько убедительным, что вызвал большой резонанс и был воспринят большим количеством людей как правда. "Клип до сих пор находится на YouTube и имеет десять миллионов просмотров. Цель ролика - повысить осведомленность, чтобы зрители доверяли только безопасным источникам информации, но эксперты говорят, что невозможно гарантировать, что первоначальная вырезка не была распространена независимо. «Дипфейки» могут оказывать глубокое влияние на политику, подрывая доверие общества, что может способствовать кризисам управления или попыткам переворота, как это произошло в республике Габон в начале 2019 года. Несколькими месяцами ранее ее президент Али Бонго Ондимба был госпитализирован во время официального визита в Саудовскую Аравию. После нескольких дней без публичных выступлений спекуляции в прессе и социальных сетях заставили правительство сообщить о состоянии его здоровья. Сначала говорили о «сильной усталости», но затем в официальном заявлении было сказано, что у него произошло кровоизлияние. Наконец, в декабре 2018 года вице-президент заявил в интервью, что лидер страны перенес инсульт. С этого момента оппозиция пыталась утверждать, что Бонго мертв, и 31 декабря было опубликовано видео, на котором он приветствует конец года. Однако жесткая поза его тела и низкое качество записи заставили различных лидеров заявить, что это двойник или глубокая подделка, и эта версия распространилась в социальных сетях. Хотя две независимые проверки фактов позже пришли к выводу, что видео, скорее всего, подлинное, ущерб уже был нанесен. Это ключевой аспект данной технологии: видео не обязательно должно быть поддельным, чтобы вызвать недоверие. Одна лишь возможность манипуляции вызывает сомнения, которые могут подорвать доверие к правительствам. "Через несколько дней, в январе 2019 года, группа солдат ворвалась на государственную радиостанцию, чтобы передать сообщение населению: необходимо поддержать переворот, чтобы к власти пришла новая политическая сила, потому что Бонго либо не способен на это, либо мертв. Попытка переворота не удалась, но она привела институты к кризису, и хотя подозрения в глубоком подлоге были не единственным условием, сделавшим этот кризис возможным, они, похоже, его спровоцировали. «В 2020 году активистская организация Extinction Rebellion выпустила поддельное видео с тогдашним премьер-министром Бельгии Софи Вильмес, в котором она произносит речь, связывая распространение COVID-19 с экологическим кризисом и »эксплуатацией и разрушением людьми нашей природной среды". Они использовали кадры из реальной речи Вильмес, которую она ранее произносила по поводу пандемии, но изменили звук и губы политика, чтобы она произносила слова из сценария, написанного Extinction Rebellion. «Хотя активистская группа позже призналась в мошенничестве, заявив, что таким образом она пыталась заставить политических лидеров решать проблемы климата и экологического кризиса даже в разгар пандемии, видео распространилось по всей Европе и было воспринято многими как правда. »И хотя глубокие подделки с использованием видео кажутся наиболее эффективными, поддельные аудиосообщения также могут оказать реальное влияние. За несколько дней до парламентских выборов в Словакии в 2023 году распространилось аудиосообщение, в котором лидер прогрессивной партии Михал Шимечка признался, что планирует манипулировать голосами избирателей, и заявил, что собирается поднять цены на пиво. "Сообщение, сделанное с помощью клонирования его голоса искусственным интеллектом, было трудно вовремя опровергнуть из-за запрета на выборы, как это произошло в случае с Макри и Лоспеннато. Хотя сообщение было ложным, ущерб уже был нанесен: кандидат проиграл с небольшим отрывом, и некоторые аналитики предполагают, что аудиозапись могла стать решающей. "Нет сомнений в том, что фальшивки подрывают доверие общества. Уже недостаточно быть похожим на апостола Фому, который утверждал, что ему нужно «увидеть, чтобы поверить» в воскрешение своего учителя. В политике, где легитимность основана на общественном восприятии, влияние фальшивок может быть разрушительным. Они не только позволяют фабриковать дезинформацию, но и сеют постоянный скептицизм: даже реальные доказательства могут быть отвергнуты фразой «это подделка». В философии технологий это известно как «дивиденд лжеца»: если все может быть ложным, то ничего нельзя доказать«. »Более того, эта технология становится все более дешевой и простой в использовании. Она больше не ограничивается правительствами или крупными производителями; она доступна троллям, влиятельным лицам или злоумышленникам. В этом смысле ее дестабилизирующий потенциал растет по экспоненте".