Принятие решений на основе поддельных изображений: всё больше кандидатов используют ИИ в политической рекламе, чтобы завоевать ваш голос

Вице-губернатор Южной Каролины Памела Эветт выглядит потрясенной в мрачной комнате, проходя тест на полиграфе, который заканчивается тем, что детектор лжи загорается. Хотя в видео поясняется, что «инсценировки» в этом политическом ролике созданы с помощью искусственного интеллекта, некоторые избиратели все же спрашивали у нее, было ли то, что они увидели, реальностью, рассказала Эветт телеканалу Noticias Telemundo. По словам Эветт, сначала она подумала: «Это же смешно, правда? В смысле, ведь никто же не может в это поверить?» Позже, когда она ездила по штату в ходе своей кампании за выдвижение в качестве кандидата от Республиканской партии на пост губернатора — гонку, которую она проиграла в июне генеральному прокурору Алану Уилсону, — она рассказала, что сталкивалась с избирателями, которые были сбиты с толку относительно достоверности видео. «Во время предвыборной кампании люди спрашивали меня: „О боже, они действительно заставили вас пройти проверку на детекторе лжи?“» — рассказала Эветт. Затем ей приходилось объяснять им, что этого никогда не было и что это была поддельная реклама, сгенерированная искусственным интеллектом. «Сначала ты почти думаешь, что это шутка, и как бы смеешься над этим, пока не осознаешь, что есть группа людей, которые не могут отличить правду от вымысла, — сказала она, — и тогда начинаешь сомневаться, а не правда ли то, что они говорят». Эветт — не единственная, чьё изображение было подделано в преддверии промежуточных выборов. «Wesleyan Media Project» — группа экспертов, отслеживающая политическую пропаганду в ходе избирательных кампаний, — выявила в этом избирательном цикле как минимум 220 рекламных роликов, созданных или доработанных с помощью искусственного интеллекта кандидатами или комитетами политического действия. Их стоимость составила чуть менее 137 миллионов долл. Это значительный скачок в использовании данной технологии по сравнению с 2024 годом, когда инвестиции в ИИ во время президентских выборов не превышали 50 000 долл. По состоянию на май этого года сумма, потраченная на эти рекламные ролики с использованием ИИ, уже составила 20 миллионов долл. «Мы действительно наблюдали рост числа рекламных роликов с использованием ИИ в течение лета», — сообщил Noticias Telemundo Трэвис Ридаут, профессор Вашингтонского государственного университета и один из руководителей проекта. «Многие из них были связаны с напряжённой борьбой на праймериз». Вице-губернатор Южной Каролины увидела два видеоролика с собой, сгенерированные с помощью искусственного интеллекта, или так называемые «дипфейки», но она также поделилась одним роликом, в котором ложно изображалось, как её соперник Алан Уилсон отклоняет звонок от президента Дональда Трампа. По словам Эветт, её предвыборный штаб использовал искусственный интеллект после того, как в сети начали циркулировать рекламные ролики с её участием. «Но мы указали: „Это видео создано с помощью ИИ“», — сказала она. Видеоролики, направленные против Эветт, как утверждается, были оплачены политическим комитетом (PAC); тот, что был выпущен против её соперника, финансировался предвыборным штабом вице-губернатора. Запрос о комментарии, отправленный Уилсону, не получил немедленного ответа. В ответ на запрос Noticias Telemundo в социальных сетях почти 40 человек сообщили, что видели политическую рекламу, созданную с помощью искусственного интеллекта. Некоторые признались, что им трудно её отличить от обычной. «А это может вводить в заблуждение; в таком случае избиратели могут принимать решения на основе ложной информации», — сказал Ридаут. «Именно это, на мой взгляд, вызывает наибольшую озабоченность с точки зрения демократии». В отсутствие федерального закона, регулирующего эту сферу, ответственность ложится на местные органы власти, отметил Ридаут, по оценкам которого примерно в 30 штатах действуют те или иные правила или требования, касающиеся использования ИИ в политических кампаниях. Из 220 рекламных роликов, проанализированных Wesleyan Media Project, лишь в 27 % было указано, что при их создании использовались инструменты искусственного интеллекта. Возможности «безграничны». Кандидаты с небольшими бюджетами на предвыборную кампанию полагаются на искусственный интеллект, чтобы конкурировать со своими соперниками, предположил Ридаут. «Я думаю, что это явление пришло, чтобы остаться. Не думаю, что оно исчезнет», — сказала Эветт. Предвыборные кампании «очень дорогостоящие», отметила она, а ИИ сокращает многие затраты на съемку и монтаж. Эти инструменты также могут «раскрыть» больше творческого потенциала в политической рекламе, сказал Ридаут, «что было бы не самой худшей вещью на свете». Он отметил, что возможности практически безграничны и включают в себя сатиру. Среди проанализированных им рекламных роликов он видел кандидатов, выходящих из болота, боксирующих с Трампом или появляющихся рядом с физиком Альбертом Эйнштейном, умершим в 1955 году. «Меня действительно беспокоит долгосрочное воздействие этих изображений, даже если люди понимают, что это может быть неправдой», — сказал Ридаут. Он отметил, что эти изображения могут застрять в их памяти во время голосования или даже вызвать волны дезинформации, провоцирующие насилие. ИИ может «переопределить» современные политические кампании, — говорится в статье Бреннанского центра правосудия, некоммерческого института, эксперты которого проанализировали потенциальное влияние этой технологии на демократию. Мекела Пандитаратне, юридический советник и директор Программы по выборам и государственному управлению центра, заявила, что без раскрытия информации «использование генеративного ИИ в политической рекламе может исказить восприятие кандидатов, представляя их в выгодном свете, а их оппонентов — в негативном». Во время праймериз в Миннесоте в сети распространился дипфейк, на котором вице-губернатор Пегги Фланаган, кандидат от Демократической партии в Сенат США, улыбалась на фоне гор денег. Представитель её аппарата заявил, что, хотя это не помешало им победить на праймериз, влияние видео, сгенерированного ИИ, вызвало тревогу. «В нашей политике и так слишком много недоверия, и избиратели заслуживают того, чтобы знать, что реально, а что нет», — сказал представитель. Миннесота входит в число штатов, где действуют нормативные акты, регулирующие использование ИИ; в 2023 году законодательный орган штата при поддержке обеих партий принял закон, запрещающий использование ИИ для влияния на выборы. Реклама с использованием ИИ, нацеленная на Фланаган, вызвала дискуссию о том, является ли она незаконной или же защищена Первой поправкой к Конституции США. «Искусственный интеллект ни в коем случае не должен использоваться для манипулирования избирателями», — заявил пресс-секретарь Фланагана. Вопрос прозрачности. По крайней мере два федеральных законопроекта, направленных на регулирование использования ИИ в политике, находятся на рассмотрении и ожидают одобрения законодателями. Один из них призван обеспечить, чтобы в рекламных материалах содержались заметные уведомления об использовании инструментов искусственного интеллекта; другой направлен на запрет использования этой технологии «для создания существенно вводящего в заблуждение контента, ложно представляющего федеральных кандидатов в политической рекламе с целью оказания влияния на федеральные выборы». Хотя местные нормативные акты уже существуют, некоторые кандидаты по-прежнему их нарушают, по словам Пандитаратне из Бреннан-центра. «Я думаю, что эти законы не оказали столь сильного сдерживающего эффекта, как нам хотелось бы», — сказала она, подчеркнув необходимость введения единого федерального стандарта. При разработке любого закона законодатели учитывают Первую поправку, которая защищает, помимо прочего, свободу слова, вероисповедания и прессы. Законы, «тщательно разработанные», могут выдержать проверку на соответствие Первой поправке, пояснила Пандитаратне. ИИ также можно использовать для создания «форм комментариев или искусства», таких как пародии или сатира. В рекламных роликах, проанализированных Noticias Telemundo, форма и содержание, указывающие на использование ИИ, варьировались; различия касались как размера текста, так и формулировок. Например, в одном из них было указано: «Эта реклама содержит контент, созданный с помощью цифровых технологий», а в другом — «инсценировки». В некоторых случаях предупреждение появлялось в конце, а в других его вообще не было. По словам Ридаута, использование ИИ в политической пропаганде вызывает беспокойство как у демократов, так и у республиканцев. Кандидаты от обеих партий становились мишенью для дипфейков, «и им это не нравится». Он полагает, что в следующем году в Конгрессе может сложиться консенсус по введению определённых национальных стандартов. Республиканцы чаще используют ИИ. Согласно исследованию Wesleyan Media Project, политические комитеты (PAC), поддерживаемые республиканцами, и кандидаты от Республиканской партии проявляют большую готовность инвестировать в эти инструменты, чем демократы и независимые кандидаты. Исследование показало, что 81 % из 220 выявленных рекламных роликов были профинансированы кандидатами-республиканцами или прореспубликанскими группами. Еще 12 % пришлось на долю спонсоров, поддерживающих демократов. Остальные рекламные ролики были спонсированы независимыми кандидатами или группами, высказывающимися по вопросам, которые, по-видимому, не носят партийного характера. Хотя Ридаут заявил, что не может объяснить эту заметную разницу, он полагает, что ключ к ней может крыться в избирателях каждой из партий. По его словам, избиратели-демократы, как правило, «больше поддерживают» государственное регулирование, и, возможно, демократы в большей степени ограничены своими собственными избирателями в том, что они готовы делать, в отличие от республиканцев. Если кандидат «заходит слишком далеко» в рекламном ролике, направленном против своего оппонента, он также может столкнуться с негативной реакцией и критикой, отметил он. Однако он отметил, что политические комитеты (PAC), которые, как правило, самостоятельно финансируют свою рекламу, в меньшей степени подотчетны общественности, «и я думаю, что они с большей вероятностью могут перейти некоторые границы», — добавил он. В некоторых рекламных роликах в ходе нынешней предвыборной кампании ИИ использовался для эстетического улучшения, например, для повышения качества изображения или драматизации событий из жизни кандидата. Но в других случаях ИИ использовался для критики кандидатов путем ложного изображения их рядом с иммигрантами, трансгендерами или драг-квиннами, поскольку эти группы стали объектами все более активных атак. «Это вызывает беспокойство», — сказал Ридаут. Есть также политические деятели или люди, которые чаще всего появляются в рекламных роликах с использованием ИИ; изображение Трампа часто искусственно используется для создания впечатления, будто он поддерживает или одобряет того или иного кандидата. Исследование показало, что депутат от Демократической партии из Нью-Йорка Александрия Окасио-Кортес является «фаворитом среди республиканских рекламодателей». АОК появилась как минимум в пяти подделанных видеороликах, в которых она была представлена в негативном свете. Noticias Telemundo запросил комментарий у её офиса, но пока не получил ответа. По данным Wesleyan Media Project, штатами, наиболее активно использовавшими ИИ в политических кампаниях, были Оклахома и Техас. «Очень нечестно» В Луизиане предвыборная борьба на праймериз Республиканской партии в Сенат обострилась после публикации видеороликов, сгенерированных с помощью ИИ, в которых депутат Джулия Летлоу противопоставлялась казначею штата Джону Флемингу. Флеминг заявил, что видел от пяти до шести видеороликов со своим изображением, сгенерированным с помощью ИИ, и считает, что они повлияли на победу Летлоу. В одном из рекламных роликов, проанализированном Noticias Telemundo, Флеминг появляется за рулем автобуса с мексиканским флагом, что ложно создает впечатление, будто он перевозит иммигрантов с южной границы на территорию США. Флеминг осудил эти ролики как «крайне нечестные» и вводящие в заблуждение, поскольку в них он якобы одобряет политику, которую никогда не поддерживал. По его словам, они также были созданы с целью «сделать вас физически непривлекательным». Хотя он признал, что те, кто стремится занять государственную должность, подвергаются критике и пристальному вниманию — и что ложь распространяется и без ИИ — он настаивал на том, что политическая реклама должна основываться на «правде». Его избиратели были «очень возмущены» этими видео, сказал Флеминг, и хотя он и пытался убедить их, что это подделка, «когда на твою кампанию тратят в 20 раз больше средств, твой голос не слышен». В интервью местной телестанции Летлоу дистанцировалась от рекламных роликов с ИИ, нацеленных против Флеминга, заявив, что они были созданы политическими комитетами (PAC), с которыми у неё нет никакой связи, и указала, что она «не является сторонницей» использования ИИ в политических кампаниях. Она также раскритиковала Флеминга за то, что он опубликовал в своих социальных сетях сгенерированное ИИ видео с её участием, на котором слышно, как она говорит о своём муже, Люке Летлоу, который скончался от осложнений, вызванных Covid, за несколько дней до того, как должен был вступить в должность представителя 5-го избирательного округа Луизианы. Летлоу теперь занимает это место после проведения внеочередных выборов. Летлоу заявила, что Флеминг «перешёл черту» с помощью этой рекламы, сгенерированной ИИ. «Публикация этого видео — позор и непростительно. Семья — это табу, и точка», — заявила она. Ее пресс-служба не ответила сразу на запрос о комментарии. Когда Флеминг спросили об этом видео, она ответила, что «реклама была создана кем-то другим, а я лишь временно разместила её, но на самом деле она была очень точной». Другие республиканские деятели штата попросили Флеминг удалить видео. В конечном итоге, по словам Флеминг, именно автор ролика сам его удалил. Отрицать, отрицать, отрицать. По мнению Ридаута, учитывая растущую популярность искусственного интеллекта в политической сфере, кандидатам придётся уделять всё больше времени опровержению генерируемых ИИ рекламных материалов, распространяемых против них. Это особенно актуально в связи с тем, что технологии развиваются до такой степени, что становится всё сложнее отличить реальность от вымысла, и люди начинают сомневаться во всём, что видят. И Эветт из Южной Каролины, и Флеминг из Луизианы заявили, что необходимы меры безопасности, позволяющие отличать такой контент и четко его маркировать. «Я не думаю, что ИИ сам по себе является проблемой», — сказал Флеминг, упомянув, что с помощью этого инструмента создавались рекламные объявления, поддерживающие его кампанию с использованием юмора. «Я думаю, что вопрос в том, используете ли вы ИИ продуктивно, позитивно и правдиво». Сомневаться в некоторых кандидатах — это не «само по себе плохо», сказал Пандитаратне из Brennan Justice Center, но проблема заключается в разрушительном эффекте недоверия к избирательным процессам или институтам. Еще одним риском для демократии, как отметил Пандитаратне, является то, что некоторые политики будут игнорировать правду, руководствуясь так называемым «дивидендом лжеца». Это означает «игнорирование или отказ от достоверных и подлинных доказательств, пытаясь дискредитировать их как ложные или сгенерированные искусственным интеллектом». Чтобы бороться с этим, необходимы инициативы по повышению цифровой грамотности, которые побуждали бы избирателей тщательно анализировать получаемую информацию, не отрицая при этом реальность всего, что они видят, сказал Пандитаратне, поскольку «это тоже нездорово». Более ранняя версия этой статьи впервые была опубликована в Noticias Telemundo.