Перегретая комната и чашка кофе

Я не устаю повторять то, что, в любом случае, всем уже известно: сегодня мы живем в информационном пузыре, каждый из нас заперт в своем, и никто не способен увидеть мир, который видят другие. Те из нас, кто хотел узнать об этом, также знают, что последствия такого положения дел для того, что мы называем демократией, то есть способом сосуществования, зависящим от постоянных переговоров, абсолютно разрушительны: если мы не видим мир, который видят другие, как мы можем договориться о чем-либо? Мы узнали, что захват нашего внимания осуществляется с помощью разрушительных механизмов: искусственно созданного возмущения, вызванного напряжения, возбуждения наших худших страстей. Но многим это, похоже, не важно, или не настолько, чтобы принимать меры; потому что тот же механизм, который иногда их беспокоит, иногда также им благоприятствует, и этого достаточно, чтобы закрыть глаза на проблемы. Да, мы это знаем, но мы еще не знаем всего. В книге «Время хищников», которая, как мне сообщили, выйдет на испанском языке в начале октября, итальянский писатель Джулиано да Эмполи рассказывает о своей встрече с Александром Никсом, одним из руководителей компании Cambridge Analytica. Читатели, полагаю, знают, что Cambridge Analytica была компанией, ответственной за крупнейшие манипуляции на выборах в том странном 2016 году: победа Трампа и Brexit были не единственными успешными примерами (в Каталонии и Колумбии также были достойные внимания случаи). Когда компания только начала свою деятельность, она была известна как простое коммуникационное или рекламное агентство, но на самом деле работала совсем по-другому, и мир еще не осознавал этого. Итак, в ходе той беседы Никс, чувствуя себя в доверии, в какой-то момент начал объяснять свой метод. Примерно так он сказал: «Предположим, вы хотите продавать больше Coca Cola в кинотеатре. Если вы обратитесь в традиционное рекламное агентство, вам скажут, что нужно увеличить количество точек продаж, поставить у входа силуэт женщины в бикини, пьющей Coca Cola, и показать рекламу перед фильмом. Ничего подобного: в конце концов, зритель покупает Coca Cola, потому что хочет пить. Что же тогда нужно делать? Повысить температуру в зале. И именно это и сделала Cambridge Analytica: повысила температуру в зале, в том бесконечном и вездесущем зале, которым являются наши социальные сети. Вскоре после этого компания распалась на фоне различных скандалов, но извлеченные из этого уроки принесли большую пользу цифровым платформам — Meta, X и многим другим — которые впоследствии стали доминировать в нашей гражданской деятельности. Метод всегда один и тот же: подпитывать возмущение, гнев, обиду, неуверенность. Вернее, мобилизовать конфликт, потому что конфликт захватывает нас больше, чем переговоры, так же как умеренность привлекает нас меньше, чем радикализм. «Принцип везде остается одним и тем же», — объясняет Джулиано да Эмполи. По его словам, речь идет о трех простых операциях: «Выявить горячие темы, разломы, разделяющие общественное мнение; продвигать на каждом из этих фронтов самые крайние позиции и заставлять их противостоять друг другу; проецировать это противостояние на всю общественность, чтобы все больше накалять атмосферу». Когда мы говорим о поляризации — слове, которое уже окончательно износилось, — мы обычно имеем в виду следующее: мы не только живем в закрытых сферах, в этих информационных пузырях, но и в этих пузырях очень жарко, нет окон, и кто-то постоянно поднимает термостат. В своей речи 1935 года французский писатель Поль Валери рассказывает, что однажды он слышал, как его друг насмехался над часто повторяемой в те дни фразой: «Мы живем в переходный период». Друг, как и друзья, которые критикуют нас в эти времена, когда мы говорим, что наш кризис беспрецедентен, говорил, что это абсурдное клише, потому что всякая эпоха является переходной: всякая эпоха приходит откуда-то и уходит куда-то. И Валери взял сахарницу, вынул кусочек сахара и бросил его в свою чашку кофе. И сказал своему другу: «Вы думаете, что этот кусочек сахара, который довольно долгое время находился в сахарнице, в конце концов, вполне спокойно, не испытывает сейчас совершенно новые ощущения? Разве он не переживает сейчас то, что мы можем назвать «переходным периодом»? Что ж, в эти дни мне пришла в голову мысль, что это так: мы — этот бедный кусочек сахара. И теперь я думаю также о словах главы Cambridge Analytica и говорю себе: мы — кусочек сахара, но кроме того, кто-то перегревает кофе. Надо четко понимать: в течение последних десяти лет мы, граждане открытых демократий, были подопытными животными в гигантском эксперименте по массовой манипуляции, сначала невольной или случайной, а затем вполне сознательной, материалом для которого является наше внимание, а целью — обогащение (не только денежное, но и влиятельное) господ из мира технологий. Но теперь господа из мира технологий объединились с ультраправыми популистами, как я пытался объяснить в этой газете три недели назад, и этот союз может оказаться самым опасным событием с момента изобретения атомной бомбы. Достаточно секунды ясности, чтобы понять, каким мрачным делом они занимаются: правительство Дональда Трампа обещает им дерегулирование — и поэтому нападает на все страны, которые хотят ограничить Илона Маска или законодательно регулировать искусственный интеллект, и поэтому только что пригрозило Европейскому союзу дополнительными пошлинами, если тот оштрафует Google — а они, в свою очередь, обещают ему контроль над гражданами. Теперь я узнаю, что авиакомпания Delta планирует использовать искусственный интеллект, чтобы менять цены на билеты в зависимости от клиента: тот, кто путешествует для удовольствия, будет платить меньше, чем тот, кто едет на похороны родственника, например, потому что компания оценивает потребности каждого и выставляет счет в соответствии с ними. Этот механизм непристойный. Наступает новая эпоха, эпоха, в которой доминируют технологии, создаваемые в тени, без контроля со стороны общественности, без вмешательства демократических правительств, но которые будут разработаны для вмешательства в жизнь граждан — в их экономику, здоровье, правосудие — а также в их демократические процессы: в информацию, которую они получают, и в выборы, которые они проводят. Искусственный интеллект, безусловно, принесет с собой обещание прогресса, который преобразит общество, но именно нам предстоит решить, какое общество мы хотим. Чтобы принять правильное решение, я бы рекомендовал иметь в виду одну идею или принцип, который на первый взгляд кажется простым, но который, честно говоря, для многих людей непонятен. Я уже говорил об этом три недели назад, но повторюсь: не все, что возможно с технологической точки зрения, следует делать с этической точки зрения. Другими словами: не все, что возможно, является целесообразным. Более того: есть технологические достижения, которые для тех, кто смотрит на них трезво, являются шагом назад в развитии человечества. Это непопулярная идея, но ее нужно вынести на обсуждение. Посмотрим, найдется ли кто-нибудь достаточно смелый, чтобы снять кофейник с огня.