«В TikTok появилась новая цифровая стена»

Роль алгоритмов в качестве распространения информации и общественной дискуссии в целом стала предметом общенационального интереса. Покупка TikTok US американскими компаниями, вызов Илона Маска в прокуратуру Парижа... В новостях не скудно на примеры такого рода осознания. Анализ Сальваторе Романо, директора по исследованиям и соучредителя AI Forensics, некоммерческой организации, цель которой — оценивать влияние социальных сетей на общество. Томас Бурдо, RFI: Алгоритм TikTok US недавно сменил владельца. Заметили ли вы какие-либо изменения с тех пор? Сальваторе Романо: Вскоре после подписания и заключения этой сделки между США и TikTok мы обнаружили несколько проблем на платформе. Очевидно, что инженеры работали над ней, чтобы создать дополнительные меры безопасности, которые позволили бы им модерировать и, в конечном итоге, цензурировать или продвигать определенный контент в США, не затрагивая TikTok в целом на глобальном уровне. Вы когда-нибудь наблюдали подобные маневры в прошлом? Мы видели нечто подобное во время вторжения России в Украину. Тогда Кремль принял закон против дезинформации, который позволял сажать в тюрьму тех, кто не хотел называть, например, войну в Украине «специальной операцией». После этого все западные платформы были запрещены или покинули Россию. Единственной оставшейся платформой был TikTok, который решил, вместо того чтобы покинуть страну, подчиниться закону. В последующие дни в России мы зафиксировали ряд событий, очень похожих на те, которые мы сейчас наблюдаем в США... То есть? Например, если у вас был российский аккаунт, вы не могли просматривать его из-за границы. И наоборот. То же самое мы наблюдали в США. Мы создали профиль в США, а затем публиковали контент. Контент был виден, но сам аккаунт не был виден из ЕС. Это произошло после вступления соглашения в силу. Это симптом создания новой стены внутри TikTok. Цифровой барьер, который может позволить американским владельцам использовать фильтр для контента, поступающего из других стран мира. Этот барьер также может быть использован TikTok в других странах мира для предотвращения распространения определенного американского контента. Этот барьер может быть использован для цензуры и влияния на пользовательский опыт в США. Это похоже на то, что произошло в России, но в США это, вероятно, будет менее очевидно. В Европе и Африке, например, работает китайская алгоритмическая версия TikTok? Мы полагаем, что алгоритм одинаков во всем мире, за исключением Douyin [Douyin, «вибрация» по-китайски, — это китайская версия TikTok, разработанная ByteDance специально для китайского рынка с 2016 года, прим. ред.]. Возможно, США изменят алгоритм, или некоторые страны потребуют специальной модерации для своей страны, но это очень сложно доказать. Некоторые параметры могут быть скорректированы для соответствия национальным нормам. Есть ли у нас информация о том, как Oracle, американская компания, управляющая TikTok в США, может изменить алгоритм? Они разделили команду на американских и неамериканских сотрудников. Есть специальная группа людей, которые работают исключительно в TikTok США. Эти люди подчиняются непосредственно компаниям, которые их контролируют. Первые симптомы, которые мы наблюдаем на платформе, не внушают оптимизма. Ясно, что они проводили тестирование, но не так ясно, почему они начали с разоблачений об Эпштайне, например, а не с футбола. Были также странные ошибки, связанные с крайне правыми и дезинформацией, что довольно тревожно. В ближайшие месяцы у нас будет больше доказательств. Изменения, которые мы наблюдали, были быстрыми исправлениями. Модерация, которую в конечном итоге внедрит Oracle, будет гораздо более тонкой, ее разработка займет больше времени, а также потребует более тщательного изучения. Но первые наблюдения не были обнадеживающими. А как обстоят дела с другими алгоритмами социальных сетей, например, X или Facebook? Американский подход заключается в том, что все страны должны принять их платформу такой, какая она есть, или остаться без нее. Россия запретила Facebook и другие платформы, но Twitter (теперь X) решил уйти, даже не дожидаясь цензуры. Все американские компании поступили так же, за исключением YouTube, который было очень сложно заменить россиянам, потому что он содержит много полезной информации о том, как ремонтировать тракторы и многое другое... TikTok, со своей стороны, адаптируется к национальным правилам, чтобы, в теории, завоевать больше рынков. Но если TikTok будет запрещен, как это произошло в Индии и многих других странах, то будет потерян только TikTok, что менее вредно, чем лишиться Instagram, Facebook, X, YouTube, Google и всей цифровой инфраструктуры, базирующейся в США. Facebook и Google имеют примерно одинаковую политику во всем мире. Показательным примером стал запрос Эрдогана к Facebook удалить прокурдский контент, после чего Facebook удалил этот контент не только для турецких пользователей, но и для пользователей по всему миру. Когда они занимают определенную позицию, они делают это на глобальном уровне. Можно ли сказать, что алгоритмы «классических» социальных сетей устарели с появлением ИИ? Крупные коммерческие платформы достигли очень большого числа пользователей и теперь могут монетизироваться. Facebook и другие платформы начинают размещать все больше рекламы, снижая общее качество, но увеличивая доходы. Такова общая тенденция. TikTok, одна из самых передовых платформ, работает очень хорошо и, вероятно, будет оставаться на вершине популярности еще несколько месяцев и лет, но, возможно, ее заменят новые формы социальных сетей, как это всегда происходило в прошлом. Как вы оцениваете этот технологический момент, связанный с ИИ? Уже существует новая волна социальных сетей, полностью созданных с помощью ИИ, таких как Vibes, например, в Meta, где нет создателей контента. [Meta Vibes работает как фид, похожий на TikTok, посвященный коротким видеороликам, на 100 % созданным с помощью ИИ, примечание редактора]. Это новый этап, на котором создание контента не будет необходимо и будет заменено ИИ. Генеративный ИИ создает новую глобальную инфраструктуру данных и вычислительной мощности, которая станет основой следующего поколения Интернета. Социальные сети и их алгоритмы предшествуют генеративному ИИ и, вероятно, не изменятся. Будут созданы новые платформы на основе генеративной ИИ, такие как Vibes для Meta и Sora для OpenAI, которая планирует создать собственную социальную сеть. Это, таким образом, следующий шаг. После этого очень сложно делать прогнозы, потому что технология развивается очень быстро. Мы начинаем видеть социальные сети, созданные исключительно для ИИ-агентов [Molbook — последний хит в этой области, хотя к нему нужно относиться с осторожностью, прим. ред.]. Это еще один шаг в том, что можно назвать «ИИ-фикацией» социальных сетей и социального взаимодействия. Мы начали с физического, затем перешли к комментариям между людьми, затем к создателям контента и контенту, опосредованному алгоритмами, затем к генеративному ИИ, который производит весь контент для людей, и теперь у нас есть платформы агентов, которые общаются с агентами. Это изменение ролей технологии и людей. Новый Интернет будет в значительной степени автономным, но я не хочу делать прогнозы на более чем один-два года вперед. Благодаря своей организации, вы также находитесь на переднем крае наблюдения за этими достижениями, а также за их отклонениями... Несколько недель назад мы опубликовали отчет о Grok [ИИ от X, прим. ред.] и его функции раздевания. Grok мог раздевать пользователей и стал вирусным. Мы продолжаем работать над генеративным ИИ и его рисками, над алгоритмической ответственностью и подробно изучаем случай TikTok в США, потому что считаем его очень важным. Мы проведем дополнительные тесты, чтобы сравнить их с остальным миром и посмотреть, что действительно изменится. Мы также будем внимательно следить за предстоящими выборами, такими как муниципальные выборы во Франции и Нидерландах, которые состоятся около 15 марта. Мы также постараемся следить за промежуточными выборами в США, чтобы посмотреть, как они будут представлены на платформах.