Что такое алгоритм и почему он стал вопросом национального суверенитета?

Обыск X во Франции и вызов в прокуратуру Парижа для Илона Маска ставят на повестку дня вопрос о роли алгоритмов в распространении информации как вопрос первостепенной важности. Чтобы лучше понять национальные проблемы, связанные с алгоритмами, RFI поговорило с Дамиеном Ван Ахтером, журналистом и руководителем программы инноваций IHECS (Институт высших исследований в области социальных коммуникаций), расположенного в Бельгии. Томас Бурдо, RFI: Как вы обычно объясняете, что такое алгоритм? Дамьен Ван Ахтер: Я использую аналогию с кулинарным рецептом: это набор инструкций в зависимости от ингредиентов. Следуя рецепту, мы следуем алгоритму. Мы используем их постоянно, и они не являются чем-то новым в нашем образе жизни: алгоритм нашего GPS рассчитывает лучший возможный маршрут и делает это в режиме реального времени. Что действительно изменилось, так это масштаб. Вычислительная мощность стала экспоненциальной. Сегодня мы уже не следуем одному рецепту, а многим одновременно, как на фабрике. Алгоритм теперь обрабатывает объем информации, который ни один человек не смог бы отследить. Около десяти лет назад мы думали, что знаем, что происходит с ингредиентами и рецептом, но теперь мы задаемся вопросом, что предлагает нам алгоритм и как он это делает... Рецепт Coca-Cola — хороший пример. Мы не знаем, что входит в его состав, это коммерческая тайна, но мы знаем, что хотим пить, и, априори, всегда получаем один и тот же результат. Однако компания имеет право изменять свои рецепты без нашего ведома. В этом и заключается проблема, непрозрачная сторона алгоритмов. Публика не знает, как смешиваются ингредиенты и в каких пропорциях. Сегодня появился и новый вызов: машины учатся самостоятельно посредством последовательных итераций, в зависимости от реакций и все более индивидуализированным образом, что они будут нам готовить и подавать. Читайте также Франция: суд вызывает Илона Маска для дачи показаний и проводит обыск в штаб-квартире X. Чтобы мы оставались потребителями социальной сети? На платформах алгоритмы распределяют информацию, оптимизируя время, чтобы люди продолжали прокручивать страницу и оставались на ней как можно дольше. Наибольший успех в этой области достиг TikTok. Впервые каждый контент платформы получал оценку, адаптированную к каждому индивиду. Они были первыми, кто сделал это в промышленных масштабах. На самом деле, не случайно Китай классифицировал алгоритм TikTok как почти государственную тайну. Это инструмент, не предназначенный для манипулирования массами — не стоит так думать —, но который может служить для этой цели. А поскольку это черный ящик, мы не знаем точно, из чего он состоит, что очень усложняет дело. Сегодня у нас есть доказательства того, что в США с ним делают все, что хотят. В Европе пытаются понять, как работают алгоритмы. Европейское законодательство, Закон о цифровых услугах, сосредоточено на этом. Речь не идет о цензуре или ограничении свободы слова, а просто о понимании того, как работают алгоритмы, чтобы избежать определенных злоупотреблений. Потому что раньше социальные сети были местами, которым можно было доверять, где люди делились личными моментами. А теперь это сообщество разрушено манипуляциями... Влияние — это одно, но априори нет никакого понятия обмана. Так было до сих пор. С недавнего времени мы переходим на гораздо более политическую почву. Мы понимаем, что когда государство и технология сливаются воедино, как это происходит сейчас в Соединенных Штатах, то это становится манипуляцией. У американцев был такой выбор: им сказали, что либо они принимают общие условия использования TikTok США, либо не смогут пользоваться приложением. Вероятно, есть третий путь, к которому склоняется Европа, но который пока что очень плохо понимается и заключается в том, что эти приложения можно использовать, но нужно иметь возможность выбирать, удалять алгоритмический фильтр и говорить, что хочешь получать все, на что подписан, без фильтрации. Это путь, который X, казалось, выбрал в какой-то момент, или нам это только так показали? X всегда утверждал, что его алгоритм был самым публичным из существующих. Это не ложь, мы можем это проверить, но это не значит, что обычные смертные знают, как он работает и какие проблемы за этим скрываются. Потому что каждый раз, когда мы открываем X, посты и уведомления всегда одни и те же. X — это полная противоположность тому, чем он пытается быть, с аргументом, что свобода слова не имеет границ, чтобы оправдать все, что происходит. Когда мы видим, что Grok [искусственный интеллект X] сгенерировал сотни тысяч подделок, фотографий обнаженных девушек, в том числе несовершеннолетних, и ничего не произошло... Сейчас алгоритмы питаются искусственным интеллектом, что заставляет нас задаться вопросом, кто их контролирует и во что они превратятся. Сегодня мы понимаем, что объем контента, производимого ИИ, растет в геометрической прогрессии. Каналы заполняются поляризующим контентом, потому что именно он вызывает реакцию. По сути, молодые люди развлекаются, создавая ложь, и обычно их мотивирует жажда наживы, поиск денег в TikTok. Но в тот день, когда ИИ будет обучен на этих продуктах, они перестанут иметь какую-либо ценность. Платформы, несомненно, будут пытаться фильтровать и повторно публиковать контент, созданный людьми, потому что рекламодатели будут хотеть, чтобы люди продолжали покупать, ведь если будет только ложь, то покупать будет нечего. Это с экономической точки зрения. Меня беспокоит более геополитическая траектория. Если мы больше не можем отличить правду от лжи, и если все ложно, то ничего не является правдой. Это не я говорю, это говорит Ханна Арендт. А наши государства, наше законодательство не готовы к таким последствиям. Это вызывает вопросы в связи с предстоящими выборами и решениями о голосовании. Как люди будут продолжать самоопределяться, когда то, что они видят на своих телефонах, к которым они постоянно подключены, само понятие правды и лжи уже не имеет значения по сравнению с эмоциями? Роль платформ в этом смысле чрезвычайно важна. Есть ли какое-то решение? Я твердо убежден, что платформы должны получить юридический статус издателей контента, который на них распространяется. Это единственный способ сохранить определенную стабильность и мир. Понятие общности интересов сходится к некой форме трезвости, если можно так выразиться, если мы хотим выйти из ситуации с честью. Потому что, если мы выйдем из нее с позором, нас втянут в безудержную гонку за то, кто сумеет внедрить общий ИИ. И в этом вопросе ни одна платформа сегодня не может сказать: «Ладно, я сдаюсь». Это как в покере. Все, что было вложено, все, что было поставлено на кон, будет потеряно. Тот, кто сдастся, потеряет все. Поэтому они вынуждены продолжать платить, чтобы посмотреть, что будет дальше, и в этой большой игре в покер именно страны-изгои находятся в лучшем положении, чтобы продолжать шантажировать, что Дональд Трамп называет «сделкой». Но это не сделка, это просто шантаж.