Может ли фальшивое видео определить ход выборов?

Выборы в Латинской Америке могут столкнуться с противником, способным превратить кампании в регионе в яркие эпизоды дезинформации, управляемой искусственным интеллектом (ИИ). И дело не в том, что избирательные кампании не являются моментами грязной войны par excellence, но в последние годы, с развитием генеративного искусственного интеллекта, мы стали свидетелями фальшивых материалов такой сложности, что СМИ и граждане в целом остались без инструментов для проверки их правдивости. В качестве примера можно привести события, произошедшие 18 мая в Аргентине на выборах законодателей в городе Буэнос-Айрес. В субботу вечером, за несколько часов до открытия избирательных участков, в сети X (бывший Twitter) распространилось фальшивое видео (сгенерированное искусственным интеллектом) с бывшим президентом Маурисио Макри, лидером партии PRO, в котором он объявил, что, учитывая «угрозу победы» киршнеризма, кандидат от его партии Сильвия Лоспеннато отказывается от участия в выборах. Затем он предложил сторонникам голосовать за Мануэля Адорни, кандидата от La Libertad Avanza (LLA), партии президента Хавьера Милея. Видео не имело никаких признаков шутки. По мнению многих интернет-пользователей и журналистов, его целью было ввести избирателей в заблуждение за несколько часов до выборов, и он был распространен через аккаунты, симпатизирующие или близкие к официальной партии. Макри сделал заявление по этому поводу. "В течение нескольких часов после выборов на сайте X было размещено грубое видео, сгенерированное ИИ. В нем показано правдоподобное воссоздание меня, делающего заявления, которые я никогда не делал о нашем списке. В нем показано правдоподобное воссоздание меня, делающего заявления, которые я никогда не делал о нашем списке. Это попытка мошенничества на выборах, направленная на то, чтобы запутать электорат с помощью трюков, которые зрители могут принять за реальные. О серьезности эпизода говорит тот факт, что те, кто опубликовал видео, являются людьми из внутреннего круга La Libertad Avanza", - написал бывший президент Аргентины в своем аккаунте в X. По мнению Макри, его фигура на опубликованном видео была «достоверной», то есть похожей на него. Кроме того, он расценил публикацию как «мошенническое действие, демонстрирующее глубокое пренебрежение к правилам выборов и, в конечном счете, к самой демократии». Конечно, это не первый случай, когда мы видим фальшивки, сгенерированные искусственным интеллектом, но эта отличается таким уровнем изощренности, что, несомненно, заставила заблуждаться не одного человека. Хотя его влияние на выборы, возможно, было почти незаметным, судя по результатам и предыдущим опросам, это все еще проблема. Не зная происхождения видео, дело дошло до суда, и властям предстоит определить, была ли допущена ошибка. Развитие инструментов для создания фальшивок (по определению испанского Национального института кибербезопасности, это видеоролики, в которых пользователи верят, что видят определенного человека, будь то аноним или публичная фигура, делающего заявления или совершающего действия, которых никогда не было) стирает грань между истинным и ложным. Во время президентской кампании 2023 года в Аргентине распространилось фальшивое видео, на котором кандидат Серхио Масса принимает наркотики. Оказалось, что это глубокий фейк, основанный на видео, которое циркулировало в социальных сетях с 2016 года, к которому был адаптирован образ Массы. Подобные манипуляции также имитируют контент СМИ, искажая информацию, и такие случаи были зафиксированы на выборах в Венесуэле и Мексике. Некоторые ученые уже выразили обеспокоенность тем, как эти изощренные формы манипуляций могут повлиять на демократические процессы. Разумеется, речь идет и об угрозе, которую они представляют для общества, и о проблемах, которые возникнут в будущем, учитывая распространение бесчисленных приложений, позволяющих генерировать аудио- и видеоконтент. Размышляя о Колумбии и предстоящих выборах, можно не сомневаться, что генеративный искусственный интеллект станет трендом, с которым стране придется сталкиваться ежедневно, но прежде чем демонизировать использование этих инструментов, которые уже применяются в сфере политической коммуникации и кампаний (поскольку они снижают затраты и предлагают быстрые результаты), следует поднять дебаты об их этичном использовании, установив четкие и прозрачные правила в избирательной сфере, Необходимо поднять дискуссию об этичности их использования, установить четкие правила и прозрачность в избирательной сфере - я могу думать об обязанности кампаний указывать и информировать граждан, когда политическая реклама или ее содержание сделаны с помощью этих ИИ - а журналисты должны быть обеспечены лучшими технологическими возможностями для проверки информации. Или более глубокий вопрос - регулирование деятельности поставщиков услуг ИИ в Колумбии. Европейский союз, например, уже сделал первый шаг к установлению уровней риска для применения этих технологий. В свою очередь, в Колумбии в феврале этого года был опубликован документ Conpes 4144, который является дорожной картой для регулирования данного вопроса в стране и рассматривает эту проблему, учитывая, что методы глубокого обучения могут привести к использованию самогенерирующихся технологий, конечным продуктом которых являются глубокие подделки. Документ предупреждает о риске неправомерного использования персональных данных для выдачи себя за человека и приводит тревожный факт: рост числа инцидентов, связанных с фальшивками, на 433% к первому кварталу 2024 года. Пришло ли время ввести регулирование в избирательную сферу?