Франко Пиккато: «Лучшая защита от вирусной лжи — это информированные граждане»

Дезинформация, основанная на искусственном интеллекте, стала серьезной угрозой, которая подрывает доверие общественности и здоровье демократии. Франко Пиккато, исполнительный директор Chequeado, обсуждает эти проблемы в интервью LA NACION и подчеркивает, как ИИ позволяет создавать фальшивый контент с беспрецедентной скоростью, объемом и реалистичностью. Это выходит за рамки простого твита или статьи и включает в себя создание аудиозаписей, изображений и событий, которые никогда не происходили, что делает все более сложным отличить реальное от сфабрикованного. Результатом этой ситуации является глубокая утрата доверия, поскольку люди начинают сомневаться во всем, что видят и слышат. Журналист подчеркивает, что для противостояния этой «неумолимой буре» необходимо сочетание «хорошо организованного человеческого интеллекта». Среди предлагаемых им противоядий — тщательная проверка, медийная грамотность и реальная приверженность со стороны технологических платформ. В этом смысле образование имеет основополагающее значение для того, чтобы дать гражданам возможность критически мыслить и различать намерения, стоящие за контентом, а не просто сосредотачиваться на том, был ли он создан с помощью ИИ. Кроме того, он подчеркивает, что, хотя искусственный интеллект представляет собой риск, он также может быть союзником журналистики проверки, при условии, что он используется с четкими критериями и под контролем человека. Chequeado разработал инструменты на основе искусственного интеллекта для автоматизации повторяющихся задач, что позволяет журналистам сосредоточиться на анализе и интерпретации контекста, чего не может сделать ни одна машина. И приходит к выводу, что в будущем, где будут доминировать эти технологии, доверие станет самым ценным активом журналистики, и оно будет строиться на прозрачности, тщательности и способности служить людям. - Что, по вашему мнению, является самым большим риском использования искусственного интеллекта для производства журналистского контента в эпоху дезинформации? - Самый большой риск ИИ заключается в его способности генерировать ложный контент с высокой скоростью, в большом объеме и с высокой степенью реалистичности. Речь идет не только о злонамеренном твите или статье: мы говорим о фальшивых аудиозаписях, событиях, которые никогда не происходили, поддельных изображениях. Все это можно создать за считанные секунды. И чем дальше продвигается технология, тем сложнее отличить реальное от сфабрикованного. Это приводит к потере доверия, что является основной проблемой. Если мы больше не можем верить тому, что видим или слышим, чему же нам доверять? Актеры, стремящиеся дезинформировать по политическим, экономическим мотивам или просто для того, чтобы вызвать хаос, находят в ИИ мощный инструмент для введения в заблуждение, поляризации или манипулирования. И это еще больше усложняет основную задачу журналистики: проверку фактов. Сегодня проверка информации является большой ответственностью в условиях информационного хаоса, в котором мы живем. «Итак, фальшивые новости, усиленные искусственным интеллектом, являются проблемой объема, скорости, достоверности или опасной комбинацией?» «Это опасная комбинация. Фейковые новости, усиленные ИИ, производятся массово, быстро распространяются и подрывают достоверность. Это как столкнуться с нескончаемой бурей. В этой ситуации многие люди начинают сомневаться во всем, даже в своей собственной способности отличать правду от лжи. Проблема не только техническая, но и эмоциональная, и социальная. Когда ложь становится все более изощренной, ущерб измеряется в утраченном доверии. В Chequeado мы видим это постоянно: уставшую, сбитую с толку аудиторию, у которой мало терпения для разбора. Поэтому наша задача, а также задача всех, кто работает над обеспечением достоверности информации, — быстро и ответственно адаптироваться. Недостаточно просто сказать «это ложь» в нужный момент. Необходимо объяснить, почему, как это было обнаружено и что поставлено на карту». — Как меняется карта дезинформации в Латинской Америке с появлением таких технологий, как ChatGPT или генераторы изображений и видео? — Появление технологий генеративного искусственного интеллекта полностью меняет карту дезинформации в Латинской Америке. Сейчас ложные сообщения не только производятся быстрее, но и могут с хирургической точностью адаптироваться к каждому сообществу, используя все более отточенные системы рекомендаций и микротаргетинга. Дезинформация больше не является общей: она персонализирована, эмоциональна и разработана для того, чтобы использовать страхи и предубеждения. Кроме того, мы сталкиваемся со структурным неравенством. Ответы чат-ботов на испанском языке менее точны, модели, обученные на английском языке, хуже понимают наш контекст, а платформы хуже модерируют то, что циркулирует на нашем языке. Это делает миллионы людей более уязвимыми для введения в заблуждение. Еще одним незаметным фактором является распространение информации в частных мессенджерах, таких как WhatsApp и Telegram, где пересылаемые аудиофайлы и видеоролики, вырванные из контекста, распространяются без видимости, без фильтров и без ограничений. Все это создает более вредную экосистему. «Я не верю в наивный техно-энтузиазм, но верю в использование технологий во благо». Но какие эффективные противоядия существуют сегодня для борьбы с дезинформацией, усиленной ИИ? «Единственного противоядия нет, но есть комбинация, которая работает: тщательная проверка, медийная грамотность, реальная приверженность платформ и совместная работа различных секторов. На дезинформацию, усиленную ИИ, мы отвечаем хорошо организованным человеческим интеллектом. Когда человек сталкивается с ложью, он ищет, кому верить. Поэтому очень важно, чтобы существовали надежные средства массовой информации, независимые проверяющие органы и свободная и плюралистичная экосистема, не подверженная влиянию каких-либо интересов. Также необходимо обучать аудиторию: учить в школах, как критически читать, как выявлять ложные утверждения, как понимать замысел, стоящий за тем или иным контентом. Не для того, чтобы всем не доверять, а для того, чтобы лучше думать. Превентивные меры, которые предполагают упреждающие публикации о наиболее распространенных обманах, уже используются с хорошими результатами. Но этого недостаточно, если платформы не выполняют свою часть работы. Чтобы расследовать систематические кампании дезинформации, нам нужно знать, кто за что платит, на кого направлена реклама, сколько тратится и с какими целями. И, прежде всего, чтобы технологические компании выполняли свои обязательства: если контент, сгенерированный ИИ, может повлиять на выборы, нанести вред здоровью или способствовать мошенничеству, его необходимо ограничить. Без прозрачности проблема будет только усугубляться. Ключ к решению проблемы — не работать в одиночку. Эта борьба выигрывается в сети». — «И в какой степени образование и обучение могут служить сдерживающим фактором в борьбе с распространением ложного контента?» — «Образование — один из самых мощных сдерживающих факторов в борьбе с дезинформацией, при условии, что оно адаптировано к темпам развития технологий и реальному контексту тех, кто потребляет информацию каждый день. Важно научиться критически мыслить, понимать, когда и почему кто-то хочет вас обмануть. Часто мы задаемся неверным вопросом: «Это было создано ИИ?». Но главный вопрос другой: «Это достоверно?». Изображение может быть реальным, но при этом использоваться для манипуляции. Поэтому научить читать контекст, цель и шаблоны обмана полезнее, чем просто научить обнаруживать поддельное видео. Необходимо, чтобы больше учителей, школ и университетов работали над этой темой, не как над чем-то изолированным, а как частью гражданского образования. В Chequeado мы делаем это каждый день, реализуя образовательные проекты, проводя семинары, заключая партнерские соглашения с международными платформами и организациями. Это конкретный способ помочь людям принимать обоснованные решения. Потому что лучшая защита от вирусной лжи — это информированные граждане, обученные не верить всему подряд. — Какие уроки из опыта Chequeado могут послужить моделью для других СМИ и организаций в регионе? — Мы отмечаем 15-летие, и, оглядываясь назад, видим уроки, которые могут быть полезны другим СМИ и организациям в регионе. Мы начали как первый сайт по проверке фактов в Южном полушарии, а сегодня мы — организация, которая сочетает в себе журналистику, гражданские технологии и образование. Все, что мы делаем, отвечает одной и той же миссии: помогать людям принимать обоснованные решения. Один из самых важных уроков заключается в том, что инновации возможны и в Южном полушарии. Мы создали такие инструменты, как Chequeabot, El Desgrabador и El Chequeador, которые сегодня используют редакции по всей Латинской Америке. У нас не было идеального плана действий, но зато мы внимательно слушали и были готовы пробовать новое. Вместо того, чтобы подстраиваться под чужие правила, мы решили создать свои собственные. Это позволило нам расти и оставаться верными своей цели. Мы также поняли, что сотрудничество приносит больше пользы, чем конкуренция. Мы продвигаем такие сети, как Reverso и LatamChequea, и совместно с испанским сайтом Maldita.es основали Factchequeado для борьбы с дезинформацией на испанском языке, которая затрагивает латиноамериканские сообщества в США. В Аргентине мы координируем Сеть инновационной журналистики, а на региональном уровне — Латиноамериканскую сеть тренеров по проверке фактов. Латинская Америка — это регион, страдающий от неравенства и перенасыщенный дезинформацией, и ни одно СМИ не может работать в изоляции. Когда мы делимся знаниями, технологиями и ресурсами, эффект умножается. Еще одним ключевым моментом является прозрачность. Не как символический жест, а как повседневная практика. Мы рассказываем, как мы финансируемся, как мы проверяем, как мы принимаем решения. Это укрепляет доверие аудитории и защищает нашу независимость. Четкая миссия, метод, сетевая работа и ставка на прозрачность позволили нам построить глобальный проект с реальным воздействием. А если это может послужить вдохновением для других, тем лучше! «Если журналистика не служит людям, технологии не смогут ее спасти» — Как адаптируется работа фактчекера, когда дезинформация становится не только текстовой, но и аудиовизуальной, а также синтетически сгенерированной? — Работа журналистики по проверке фактов полностью изменилась. Теперь речь идет не только о чтении и сверке текста. Сегодня мы проверяем аудио, видео, изображения и контент, сгенерированный искусственным интеллектом, который часто создается с целью обмана. Ложь маскируется под правду. Поэтому мы используем специальные инструменты, анализ метаданных, обратный поиск и модели, которые помогают нам выявлять закономерности. Помимо технологий, нам также пришлось осваивать новые навыки и сотрудничать с экспертами из других дисциплин. Другая, не менее важная часть — объяснить, как мы работаем. Что мы проверяем, с помощью каких инструментов, до каких пределов мы доходим. Аудиовизуальная дезинформация апеллирует к эмоциям и часто оказывает большее влияние, чем ложная информация в тексте. Поэтому сказать «это ложь» — это только часть процесса проверки. Необходимо шаг за шагом восстанавливать доверие с помощью четких процессов, доступного языка и редакционных решений, которые можно публично обосновать. Сегодня эта работа стала более сложной, но и более необходимой. Она требует сочетания журналистики, технологий и критического мышления. Как всегда, но с добавлением новых инструментов, новых форматов и новых угроз. «ИИ может быть союзником в проверке или риск превышает возможности?» — У нас уже есть доказательства того, что ИИ может быть отличным союзником, если его использовать с четкими критериями, под контролем человека и по прозрачным правилам. Это не дихотомия между возможностью и риском: это баланс, который нужно постоянно поддерживать. — Какие технологические достижения применяются сегодня в Chequeado для автоматизации части процесса проверки без потери точности? — В Chequeado мы разработали Chequeabot, который помогает обнаруживать проверяемые фразы, и El Desgrabador, который транскрибирует и резюмирует аудиозаписи за секунды. Все это позволяет нам реагировать быстрее, точнее и в большем количестве форматов. Мы создали панель трендов в режиме реального времени, которая информирует о главных темах публичных дискуссий в разных странах. Мы уже используем ИИ для улучшения процессов и разработали помощника редактора, который позволяет автоматизировать общие задачи, от поиска проверяемых фраз или написания постов в социальных сетях до исправления стиля, резюмирования текстов или составления заявок на финансирование. Все это доступно в браузере с помощью удобного интерфейса. Такие инструменты позволяют нам сэкономить время, увеличить влияние и освободить команду, чтобы она могла сосредоточиться на том, что не может сделать машина: интерпретировать контекст, решать, что является актуальным, и как об этом рассказать. Теперь мы также осознаем риски. Есть модели, которые поражают воображение, другие, которые усиливают предвзятость, и непрозрачность систем, которая затрудняет проверку того, как они обучаются и с помощью каких данных. В таких условиях организации, такие как Chequeado, играют ключевую роль: не только для проверки контента, созданного с помощью ИИ, но и для обеспечения прозрачности, отслеживаемости и ответственности при разработке этих технологий. Лично я не верю в наивный техно-энтузиазм. Но и в автоматическое неприятие тоже. Мы ставим на понимание технологии, ее адаптацию к нашим потребностям и использование во благо». — Какое место занимает доверие к журналистике в контексте, когда мы больше не можем верить ни тому, что видим, ни тому, что слышим? — Доверие — это сердце журналистики. Парадокс заключается в том, что никогда еще не было так сложно и так необходимо вызывать доверие. Когда мы больше не можем доверять тому, что видим или слышим, журналистика должна стать компасом, а не еще одним источником шума. В Chequeado мы знаем, что доверие не просят, его строят с помощью прозрачности, четких процессов, тщательной проверки каждой информации и явной политики признания ошибок. Для построения доверия важно показать, как мы работаем, с какими источниками, с какими ограничениями и с какими редакционными критериями мы принимаем решения. Каждая ссылка, которую мы бережем, каждая методология, которую мы раскрываем, каждая проверка, которую мы объясняем, является частью этой структуры. Вместо того, чтобы гнаться за алгоритмом или последним вирусным контентом, журналистика имеет возможность вернуться к основному: предоставлять контекст, проверять факты, рассказывать актуальные истории и служить людям. «Считаете ли вы, что регулирование ИИ может помочь сократить дезинформацию, или проблема выходит за рамки правового поля?» «Регулирование — это еще один инструмент. Оно может быть частью решения, но само по себе недостаточно. Проблема дезинформации слишком сложна, чтобы думать, что ее можно решить только с помощью законов. Она имеет технологические, культурные, политические и экономические аспекты. ИИ не изобрел ее, но ускорил и сделал более трудно обнаружимой. Как показывает модель Европейского союза, регулирование — очень ценный инструмент для обеспечения прозрачности систем, отслеживаемости контента, защиты данных и ответственности тех, кто разрабатывает и внедряет модели, которые могут усилить ущерб. Цифровое пространство не может быть ничейной землей. Задача состоит в том, чтобы защитить права, не ограничивая свободу выражения мнения и доступ к технологиям, которые также могут укрепить журналистику и демократию. Регулирование не означает цензуру. И здесь очень важно, чтобы журналисты, фактчекеры, академические круги и гражданское общество имели право голоса в дискуссии о регулировании, а не только правительства или крупные технологические компании. Чтобы сократить дезинформацию, нам нужно сочетание четких законов, ответственной технологии, тщательной журналистики и более подготовленной аудитории. Ни один из этих элементов не может отсутствовать. «Важно научиться критически мыслить, понимать, когда и почему кто-то хочет нас обмануть». «Какую роль должны играть крупные платформы в борьбе с дезинформацией, которую генерируют их собственные инструменты?» «Они не могут смотреть в другую сторону. Социальные сети играют центральную роль в экосистеме дезинформации, потому что их модели не только усиливают контент, но и приоритезируют его, а также генерируют. Они разрабатывают алгоритмы, модерируют информацию, монетизируют внимание пользователей, а теперь компании, разрабатывающие генеративный ИИ, производят контент, который легко спутать с реальными материалами. Пришло время потребовать от них, чтобы они взяли на себя ответственность за свое влияние и работали над уменьшением ущерба. На практике это означает, во-первых, большую прозрачность: о том, как работают их системы, как они обучают свои модели и какие данные используют. Во-вторых, отслеживаемость: чтобы контент, сгенерированный ИИ, можно было легко и однозначно идентифицировать. В-третьих, сотрудничество: со СМИ, верификаторами, учеными и гражданским обществом, чтобы своевременно выявлять и пресекать вредные кампании. И четвертое, инвестиции: не только в решение проблем, которые они создают, но и в выделение средств, данных и доступа к инструментам, чтобы независимые организации могли выполнять свою работу по проверке, исследованию и повышению цифровой грамотности. Свобода слова не ставится под угрозу, когда речь идет о борьбе с систематической ложью. Проверка информации придает контекст и точность публичному дискурсу. На карту поставлено качество дискуссии, потому что оно напрямую влияет на здоровье наших демократий. И в этом никто не может остаться в стороне». — Если бы вам пришлось прогнозировать ближайшее будущее, как бы вы представляли себе экосистему новостей через пять лет, с все более совершенным искусственным интеллектом и все более недоверчивой аудиторией? — Будет больше сложностей, но и больше возможностей. Мы движемся к новой социальной операционной системе, в которой журналистика будет разворачиваться в диалоговых интерфейсах, опосредованных машинами. ИИ будет интегрирован практически на всех этапах производства, распространения и потребления контента. Это может быть угрозой или мощным инструментом, в зависимости от того, как его использовать. С одной стороны, будет больше дезинформации, более автоматизированной, более сложной для обнаружения и более персонализированной, чтобы обмануть. И в то же время аудитория будет измотана шумом. Эта комбинация ставит нас всех на испытание. Однако мы видим и положительный момент: журналистика, которая сумеет адаптироваться, будет использовать ИИ с редакционным подходом и инвестировать в качество для укрепления доверия, будет иметь преимущество. Не только благодаря тому, что она рассказывает, но и благодаря тому, как она это делает, и отношениям, которые она выстраивает со своей аудиторией. Будущее принадлежит не только тем, кто обладает большим количеством технологий, но и тем, кто использует их целенаправленно и прозрачно. Такие организации, как Chequeado, будут все больше и больше необходимы в качестве моста между технологиями и гражданами, в качестве эталона достоверности и в качестве сети, которая координирует усилия в разных странах. Мы не сможем охватить все и остановить каждый случай фальшивого контента. Но мы можем установить стандарты этического использования, создать инструменты, воспитать новые поколения граждан и показать, что другой журнализм возможен, даже в неблагоприятных условиях. Через пять лет то, что сегодня кажется новым, станет нормой. Важно не терять из виду, для чего мы делаем то, что делаем, смысл нашей миссии как средств массовой информации, представляющих общественный интерес. Потому что если журналистика не способствует улучшению жизни людей, одной технологии будет недостаточно, чтобы спасти ее».