Модераторы Reddit заявляют, что компании используют платформу для манипулирования ответами ИИ

По этой причине модераторы объявили, что запретят новые публикации на обе эти темы. «Исторически сложилось так, что это был один из лучших источников контента о здоровье на Reddit. К сожалению, наш успех также сделал нас мишенью», — написала команда в своем посте. И добавила: «По мере того как поисковые системы на базе ИИ все чаще извлекают ответы с Reddit, компании используют наше сообщество для AEO (оптимизации под поисковые системы). К этому добавляется взрывной рост интереса к пептидам и расширение использования ИИ, которое наводняет субреддит. В совокупности это оказало сильное давление на качество контента». «Как объясняет 404 Media, эта стратегия называется AEO (Answer Engine Optimization) и представляет собой эволюцию традиционного SEO (Search Engine Optimization). Речь идет о контент-стратегиях, специально разработанных для того, чтобы системы ИИ собирали опубликованную информацию и использовали ее в качестве источника. В этом смысле Reddit является одним из наиболее часто цитируемых источников такими ботами, как ChatGPT и поисковик Google на базе ИИ. Пример непреднамеренного AEO возник, когда Google запустил AI Overviews (генерируемые ИИ ответы на запросы в поисковике) и порекомендовал добавлять клей в тесто для пиццы, поскольку воспринял шутку на Reddit как рекомендацию по этому поводу. «Уже есть компании, которые занимаются предоставлением такого рода услуг. «ИИ-боты, массово публикующие контент, чтобы помочь вам повысить рейтинг в Google, ChatGPT и на форумах, привлекая трафик на ваш сайт со всех уголков интернета», — говорится на официальном сайте компании RedRover. «В этом контексте один из модераторов сказал 404 Media: «Мы видим огромный потенциал для инноваций и клинической проверки этих веществ [пептидов]. Но в то же время мы видим чрезвычайно рискованные источники снабжения, подростков, спрашивающих, как вырасти еще на несколько сантиметров». «Мне немного грустно видеть, как это пространство интернета, которое было таким человечным, постепенно разрушается и наполняется искусственным контентом, сгенерированным ИИ. Мне это кажется очень удручающим», — размышлял он. «Фактически, недавно опубликованные Cloudflare статистические данные показывают, что трафик ботов впервые в истории интернета превысил трафик, генерируемый людьми. В цифрах это означает, что 57,5% веб-запросов осуществляется автоматизированными системами, в то время как запросы, генерируемые реальными пользователями, составляют 42,5%. «Для Алана Дайча, эксперта в области технологий, то, что компании и организации используют Интернет для продвижения своей повестки дня или рекламы своих продуктов, не является новым явлением. Однако он отмечает, что сегодня меняется масштаб. «Впервые у нас больше контента, сгенерированного ИИ, чем людьми, и это делает все более сложным продолжать полагаться на то, что Интернет является надежным источником информации». «Ведь с другой стороны никогда не знаешь, кто там — человек или машина, выдающая себя за кого-то и высказывающая свое мнение на форуме», — говорит он в интервью LA NACION. И добавляет, что пока такая ситуация сохраняется, задача будет заключаться в том, чтобы понять: «то, что мы видим с другой стороны, — это человек, пытающийся нам помочь, или бот, пытающийся нас убедить». «Со своей стороны, Серхио Сиротинский, профессор ИИ в Университете CEMA, добавляет: «Раньше стремились появиться среди первых результатов поиска. Сегодня же стремятся напрямую влиять на ответы, которые генерируют системы ИИ». В этом ключе он утверждает, что мы не только стоим перед «новым этапом развития интернета», но и что главный риск заключается в «потере видимости и контроля над тем, что происходит в сети». «Когда человек выполняет поиск, он обычно понимает, какую информацию просматривал и как пришел к выводу. Когда в процесс вмешиваются тысячи или миллионы агентов, действующих автономно, этот процесс становится гораздо сложнее отслеживать и контролировать», — поясняет он. «В этой ситуации платформы и разработчики ИИ вынуждены совершенствовать свои механизмы обнаружения искусственного контента, скоординированных кампаний и попыток манипуляции. «Обнаружение и предотвращение таких практик — это не проблема, которую можно решить один раз, а постоянная технологическая гонка», — отмечает Сиротинский. По словам эксперта, некоторые меры уже являются «технически осуществимыми». «Системы искусственного интеллекта могут сравнивать информацию из множества независимых источников, прежде чем признать её достоверной, выявлять признаки скоординированных публикаций между внешне не связанными между собой аккаунтами, определять аномальный рост популярности определённых тем или снижать вес контента, который массово появился в сети за короткий промежуток времени», — объясняет он. И заключает: «Вероятно, окончательного решения не существует, но есть сочетание более совершенных алгоритмов и большего разнообразия источников».