ИИ и поддельные видеоролики опережают «фейковые новости» как главная угроза демократии

Фальшивые видео, созданные с помощью искусственного интеллекта, и некачественная информация вытеснили традиционные «фейковые новости» и стали главной цифровой угрозой для выборов и демократии. Об этом свидетельствует «Руководство по Интернету, демократии и выборам», опубликованное во вторник (22) Управляющим комитетом по Интернету в Бразилии (CGI.br). В Руководстве отмечается резкое изменение ситуации между 2018 годом, когда вышло первое издание, и нынешним избирательным циклом. Если раньше основными каналами распространения информации были открытые сети, такие как Facebook, то в настоящее время главным каналом распространения стали более закрытые сети, такие как WhatsApp. Эксперты CGI.br также отметили, что распространение дезинформации стало более широкомасштабным, с одновременным распространением на нескольких платформах. «С точки зрения формата видео стало основным носителем, почти всегда сопровождаемым коротким текстом, который закрепляет и узаконивает ложную нарративную линию», — отмечается в документе. Не зря дезинформация уже в 2025 году стала рассматриваться такими организациями, как Всемирный экономический форум, в числе крупнейших глобальных рисков. В этих условиях центральная роль Интернета как средства информации, развлечения и общения становится всё более важным фактором в демократических предвыборных кампаниях. Новейшие инструменты, такие как генеративный искусственный интеллект, уже дебютировали в ходе избирательного цикла 2022 года, но ожидается, что в этом году их влияние станет ещё более значительным в сочетании с инструментами распространения информации, причём таргетирование будет всё больше привязано к конкретным профилям пользователей, а сценарии станут всё более сложными, что усилит впечатление достоверности. « «Сегодня цифровые платформы занимают центральное место в том, как бразильцы получают информацию о том, что происходит в мире, в стране и в городах, где они живут», — говорит координатор CGI.br Рената Миелли. Рената подчеркивает, что это частные компании, ориентированные на экономические цели, а не на общественные интересы. «Понимание того, как функционируют эти среды, как распространяется контент и какое влияние это оказывает на общественную дискуссию, имеет решающее значение для укрепления целостности информации и самой демократии». «Разъяснение этих механизмов является одной из целей данного руководства». Публикация, доступная на сайте CGI.br, затрагивает такие темы, как функционирование систем рекомендаций контента, влияние генеративного ИИ на предвыборную обстановку, а также рассматривает принципы работы передовых инструментов, таких как дипфейки и диалоговые языковые модели. Публикация также содержит руководящие принципы для институциональной борьбы с дезинформацией и рекомендации, позволяющие гражданам не стать ни жертвами, ни распространителями ложного или вводящего в заблуждение контента. Помимо анализа структур средств массовой информации и социальных сетей, в исследовании подчеркивается роль коммуникаторов этих медиа — инфлюенсеров. В нём признаётся их важная роль, но при этом обращается внимание на фундаментальное отличие от журналистики: они не следуют этическому кодексу, не несут институциональной ответственности за достоверность своих утверждений, за неточности или даже за преднамеренные ошибки в том, что они публикуют. Согласно исследованиям группы CGI.br, наиболее часто упоминаемая проблема в отношении дипфейков касается реалистичности или достоверности. Поскольку подобный вид дезинформации постоянно совершенствуется, он становится способным ввести в заблуждение даже тех избирателей, кто наиболее опытен в оценке информации. Такой контент может породить всеобщее недоверие к любой информации, даже к правдивой. «Потеря доверия к таким институтам, как пресса и судебная система, в сочетании с политической поляризацией также способствуют формированию этой ситуации, в результате чего личные убеждения берут верх над проверкой фактов», — предупреждает Руководство. Еще одна проблема, возникающая в атмосфере недоверия, заключается в том, что люди начинают все чаще потреблять контент, подтверждающий их существующие взгляды. «Столкнувшись с информацией, противоречащей этим убеждениям, они склонны отвергать её — это так называемая мотивированная рациональность. В этом смысле это может привести к эффекту идеологического укрепления», — предупреждает исследование.