Для групп, пропагандирующих ненависть, это прибыльная эпоха в Интернете.

Согласно отчетам исследовательских групп и экспертов, возрождающиеся группы ненависти и экстремистов, ободренные ослаблением мер по модерации со стороны технологических компаний, зарабатывают огромные деньги в Интернете. В июльском отчете Фонда по борьбе с антисемитизмом (FCAS) отмечается, что «ненависть не только распространяется по Интернету, но и становится все более прибыльной». FCAS, некоммерческая организация, основанная владельцем New England Patriots Робертом Крафтом, заявила, что усилия по монетизации, которые когда-то существовали на окраинах Интернета, теперь можно найти в более массовых пространствах, включая криптовалюты, краудфандинг, прямые трансляции и мерчандайзинг. «Эти операции больше не ограничиваются периферийными уголками интернета», — говорится в отчете FCAS. «Теперь поток монетизированной ненависти проходит непосредственно через основные платформы, охватывая более широкую аудиторию и создавая финансовые стимулы для других присоединиться». Эти усилия оказались прибыльными даже на платформах, которые имеют политику против языка ненависти. В июньском отчете Центра по борьбе с цифровой ненавистью, некоммерческой организации, изучающей онлайн-экстремизм, было обнаружено, что даже после того, как YouTube забанил Эндрю Тейта, самопровозглашенного женоненавистника, многие видео с его участием остались активными на платформе с рекламой, а 100 самых просматриваемых клипов набрали почти 54 миллиона просмотров. А отчеты Глобального проекта по борьбе с ненавистью и экстремизмом показали, что неонацисты монетизировали свои сообщения на Roblox, популярной онлайн-игре с миллионами молодых пользователей, и в Instagram. Помимо языка ненависти и небольших экстремистских организаций, растет озабоченность по поводу использования Интернета для содействия насилию, а также сложности и эффективности операций по финансированию террористов. В июльском отчете Межправительственной группы разработчиков финансовых мер борьбы с отмыванием денег (ФАТФ) содержится предупреждение о «серьезных и растущих рисках финансирования терроризма», а также о «пробелах в способности стран полностью понимать тенденции финансирования терроризма и, следовательно, эффективно реагировать на них». В совокупности эти отчеты подчеркивают, как ненависть оказалась устойчивой в Интернете после некоторых временных неудач, получив новый импульс благодаря технологиям, предназначенным для связи между людьми и предоставления финансовых услуг малообеспеченным слоям населения. Экстремизм больше не ограничивается темными уголками Интернета, а теперь часто представляет собой просто еще один контент, способный достичь самых впечатлительных умов. И экстремисты безнаказанно используют нынешнюю мощную денежную машину Интернета — от мем-монет и футболок до чаевых и краудфандинга. «В настоящее время, я думаю, что одними из самых больших проблем для нас являются такие вещи, как контент и монетизация, которые происходят в результате нацеленности на молодежь», — сказала Рэйчел Кэрролл Ривас, временный директор проекта «Разведка» в Южном центре по борьбе с бедностью. «И это особенно касается таких вещей, как видеоконтент, YouTube, а также способов использования социальных сетей для монетизации и заработка, включая Twitter». Экстремистские группы, как правило, считаются ранними пользователями Интернета и одними из первых, кто начал использовать его для заработка. По мере развития Интернета от ранних лет веб-сайтов и досок объявлений, централизованные платформы, основанные на алгоритмах рекомендаций, предоставили новые возможности экстремистам, стремящимся распространять свои идеи. Это совпало с ростом денежных потоков в Интернете. Эти деньги теперь служат источником существования для многих маргинальных групп. «Это очень важно», — говорит Меган Сквайр, которая провела обширные исследования в области политического экстремизма. «Для них это как воздух. Без этой технологии они были бы ничто». Между тем, многие из последних инноваций и тенденций, связанных с денежными потоками в Интернете, также были использованы экстремистами и людьми, пропагандирующими ненависть. FCAS отметила, что краудфандинг, обычно связанный с такими целями, как оплата медицинских счетов и создание мемориальных фондов, используется для сбора средств для людей, обвиняемых в расизме. Сбор средств для женщины, заснятой на видео, когда она кричала оскорбления в адрес чернокожего ребенка, принес более 675 000 долл. Криптовалюты и особенно мем-монеты оказались особенно прибыльными. FCAS обнаружила, что помимо мем-монет, таких как swasticoin, и монет для сбора средств, таких как peso Proud от Proud Boys, появились и другие монеты, цель которых — извлечь прибыль из определенных актов насилия. Недавним примером является peso Elias, монета, названная в честь человека, обвиняемого в убийстве двух сотрудников израильского посольства в мае. Еще одна монета была связана с убийством в июле законодателя из Миннесоты и ее мужа. Адам Кац, президент FCAS, сказал, что из-за отсутствия барьеров, слабого регулирования и потенциального международного охвата криптовалюты становятся все более актуальной темой для беспокойства. «Сегодня мы наблюдаем значительно больше активности, чем, скажем, год назад или даже три, шесть месяцев назад», — сказал он, повторяя выводы FCAS, сделанные в отчете. «Мы также наблюдаем рост числа создаваемых монет, все больше и больше групп, потому что они увидели, что кто-то другой это сделал и кто-то другой на этом заработал, и поэтому они копируют». В какой-то момент деятельность экстремистских групп в Интернете столкнулась с противодействием. Компании от Google и Facebook до YouTube и Twitter, многие из которых стремились играть ограниченную роль в модерации своих платформ, в конце 2010-х годов начали бороться с языком ненависти и экстремизмом по мере усиления политического, общественного и коммерческого давления. Бойкоты рекламодателей привели к некоторым уступкам, а политики — в основном демократы — вызывали руководителей технологических компаний на слушания, чтобы обсудить вопросы безопасности потребителей. Эти веяния значительно изменились. Хотя некоторые технологические компании по-прежнему придерживаются политики борьбы с языком ненависти, эксперты в области технологий в целом считают, что усилия по модерации значительно сократились. Политическое давление почти полностью исчезло, отчасти благодаря приходу к власти президента Дональда Трампа и попыткам республиканцев представить технологические компании как несправедливых цензоров. По крайней мере на одной платформе, X, ранее известной как Twitter, не только были вновь приняты экстремисты, но и компания начала преследовать критиков, которые когда-то требовали от нее ответственности за размещение рекламы рядом с языком ненависти. В 2023 году X подала в суд на Media Matters, либеральную некоммерческую организацию, занимающуюся расследованиями, за сообщения о том, что X показывала рекламу рядом с нацистским контентом. Media Matters подала встречный иск, и стороны продолжают судебный процесс. В прошлом году рекламная отраслевая группа под названием Global Alliance for Responsible Media прекратила свою деятельность после того, как X подала на нее в суд. Поглощение Twitter Илоном Маском в 2022 году было в целом воспринято как поворотный момент в подходе крупных технологических компаний к модерации — и как бурное возвращение экстремистских групп. В настоящее время более современные технологии, в первую очередь генеративный искусственный интеллект, расширили возможности экстремистов по распространению своих идей и зарабатыванию денег. Было обнаружено, что экстремисты используют генеративный ИИ для создания разнообразного пропагандистского и ненавистнического контента, от мемов до призывов к насилию. «Я считаю, что внедрение искусственного интеллекта усугубляет уже существующую проблему в Интернете, а именно монетизацию онлайн-ненависти, антисемитизма и экстремизма», — заявила Таль-Ор Коэн Монтемайор, основательница и генеральный директор CyberWell, некоммерческой организации, занимающейся отслеживанием антисемитизма в Интернете. «С момента многих инфраструктурных изменений в X после его приобретения Илоном Маском монетизация определенно усилилась», — сказала она. «Но сейчас инструменты искусственного интеллекта существенно усугубляют эту проблему, создавая масштабный контент, который очень визуален, очень убедителен и ускользает от моделей обнаружения и ресурсов, существующих на платформах».