Инструкции, как не стать лунатиками: искусственный интеллект, гражданство и демократия

Сегодня я хочу отойти от дискуссий о нашей местной политике и обратить внимание на более широкий вопрос, который имеет решающее значение не для предстоящих выборов, а для будущего нашего вида. Я не преувеличиваю: возможно, вы знаете о существовании такого явления, как «Часы Судного дня» (Doomsday Clock) — часы, изобретенные Альбертом Эйнштейном, Робертом Оппенгеймером и создателями атомной бомбы, чтобы символически показать миру риск исчезновения человечества. Когда они создали его в 1947 году, они символически обозначили полночь как час катастрофы, час нашего исчезновения, и установили стрелки на 17 минут до полуночи. Время от времени Бюллетень атомных ученых, издание экспертов-аналитиков, корректирует стрелки. С 1947 года многое ухудшилось, и в январе стрелки были переведены на 90 секунд вперед, а буквально несколько дней назад — на одну секунду, что является самым близким приближением человечества к необратимой планетарной катастрофе. В своем обосновании Бюллетень перечислил три главные угрозы, с которыми сталкивается человечество: ядерные угрозы, изменение климата и неправомерное использование достижений в области биологии и искусственного интеллекта. Именно об этом я и хочу поговорить. Несколько месяцев назад я обнаружил эссе под названием «Империя гипнократии», в котором анализируется общество — наше общество — в котором граждане живут как лунатики, потому что являются жертвами гигантской манипуляции сознанием. Основная теза автора, философа из Гонконга, заключается в том, что наши демократии переживают беспрецедентный кризис, в котором реальность заменена внушением, эмоциональные состояния вызываются в политических целях, критическое мышление гасится или обезболивается странной смесью постоянного развлечения и искусственно созданного напряжения, а наше восприятие мира искажается путем захвата нашего внимания и постоянного стимулирования наших чувств. Я уже высказывал эти идеи раньше, только менее точно, просто следуя своим скромным интуициям аналогового интеллектуала, который все еще читает бумажную прессу. Цзяньвэй Сюнь говорит, что алгоритмы — это не просто инструменты для вычислений и прогнозирования: это технологии массовой манипуляции. Я согласен с Цзяньвэй Сюнем. Цзяньвэй Сюнь говорит, что искусственный интеллект — это не только технологическая революция с чудесными возможностями: это потенциально антидемократический проект, который не нуждается в военной силе, чтобы навязать себя, потому что ему достаточно контролировать восприятие мира гражданами. Я согласен с Цзяньвэй Сюнем. Джаньвэй Сюнь говорит, что если искусственный интеллект завоевал симпатии новых популистов, таких как Дональд Трамп, то не потому, что он обещает прогресс и благополучие, а потому, что он способен создать нестабильную реальность, в которой никто уже не знает, что правда, а что ложь. Да, я согласен с Джаньвэй Сюнем в этом вопросе. Но у меня есть проблема, или, вернее, была. Проблема, которая у меня возникла после того, как я с восхищением прочитал критику искусственного интеллекта, высказанную Цзяньвэем Сюнем, заключалась в том, что Цзяньвэй Сюнь не существует: он был создан с помощью искусственного интеллекта. Идея принадлежит итальянскому философу Андреа Коламедичи, который использовал две системы искусственного интеллекта — Anthropic и ChatGPT — для создания этого человека. Он придумал ему биографию: рождение в Гонконге, учеба в Дублине, проживание в Германии. Он придумал ему произведение; постепенно, через диалоги с реальными собеседниками, изучение других философских текстов и исправление своих собственных текстов, это произведение породило ряд идей, которые в конечном итоге проникли в наши социальные разговоры и политические анализы. Затем, чтобы завершить обман, итальянский философ разместил ссылки на Цзяньвэй Сюня в статьях Википедии, посвященных другим философам: Жилю Дельозу, Бюнг-Чулу Хану. Есть рассказ Борхеса «Круглые руины», в котором рассказывается о замысле одного человека: он хочет придумать другого человека и сделать это настолько тщательно, чтобы придуманный человек в конце концов навязал себя всем. Не знаю, что бы подумал Борхес о Цзяньвэй Сюне, но на одной из интернет-страниц есть интервью, в котором Цзяньвэй Сюня спрашивают, кто он такой, и я почти могу представить себе злобную улыбку на его лице — его лице, созданном с помощью искусственного интеллекта — когда он отвечает так, как мог бы ответить человек из сна Борхеса или монстр, созданный доктором Франкенштейном: «Я — начало». И это правда: это только начало. Только начинается новая эра полной неопределенности, в которой единственная правда, как правильно говорит Цзяньвэй Сюнь, заключается в том, что нет никакой правды. Это огромная трудность, с которой столкнемся даже мы, те, кто занимается наблюдением за реальностью, чтобы описать ее, исследовать, попытаться понять и даже объяснить в романах, журналистике и исторических трудах. Я выбрал эти темы, чтобы поговорить с вами, потому что люди, которые здесь присутствуют — политики, бизнесмены — имеют власть формировать поведение отдельных людей или использовать то, что формируют другие: в демократии, которая к тому же является обществом потребления, это требует ответственности, и, возможно, первая ответственность перед любыми социальными изменениями — это осознание. Преобразования, которые произошли в последнее десятилетие и которые произойдут в следующем, имеют одну общую неприятную особенность: они происходили в тени, вдали от глаз общественности, вдали от любого контроля или вопросов, вдали от любого регулирования. Демократические страны мира не осмелились регулировать новые технологии, потому что их убедили, что любое регулирование ущемляет индивидуальные свободы, нарушает то, что мы называем нейтралитетом интернета, или противоречит свободе слова. Это был один из величайших пропагандистских успехов Кремниевой долины: «Те, кто хочет нас регулировать, идут против прогресса и свобод», — говорят нам люди, для которых свобода заключается в том, что другие делают то, что они хотят. Совсем недавно вице-президент США Дж. Д. Вэнс выступил с невероятной угрозой: если Европа продолжит свои попытки регулировать платформы, сказал он, США могут выйти из НАТО. Представьте себе: правительство США говорит Европе, что попытки контролировать дезинформацию и организованную ложь, попытки предотвратить вмешательство иностранных держав во внутренние процессы демократии могут привести к тому, что США перестанут поддерживать коллективные усилия по обеспечению безопасности в самый критический момент с 1945 года. Помимо морального скандала, который это представляет собой, помимо трусливого шантажа, исходящего из того неузнаваемого места, которым сегодня являются Соединенные Штаты, нужно задаться вопросом: почему правительство Трампа нападает на Европейский Союз, в то время как Илон Маск защищает неофашистов из «Альтернативы для Германии», нормализованных расистов Марин Ле Пен во Франции и гомофобию, возведенную в ранг государственной политики Виктора Орбана в Венгрии. Если вам это кажется далеким, вспомните, что всего несколько недель назад Трамп и Маск вместе нападали на бразильского судью Александре де Мораеса, который не только осмелился расследовать дело Болсонару, но и приструнил платформу X, требуя от нее в соответствии с законом принять меры по контролю над аккаунтами, которые подстрекали к насилию, продвигали язык ненависти или распространяли дезинформацию. Поэтому я считаю, что этот разговор как никогда актуален для нас: здесь, в Колумбии, перед вами, которые занимаете такое место в нашем обществе. Мы все повторяем, что живем в эпоху поляризации, и виним в этом других, всегда других; но на данный момент все мы знаем, если только мы не сделали минимум, чтобы узнать о мире, в котором живем, что то, что мы называем поляризацией, не является случайностью: по крайней мере, в значительной степени, это преднамеренный результат манипуляции, которая питается нашей информацией и нашей деятельностью, чтобы представить нам определенную версию мира, а затем запустить системы прогнозирования, непонятные для нас, но имеющие огромное влияние на наш способ принятия решений: личных решений, решений о потреблении, политических решений. И это меняет наши демократии. За исключением самых наивных или невнимательных, все граждане уже слышали эту идею: что новые технологии, которые принесли нам столько пользы, в то же время угрожают демократии. Я помню речь, которая проникла в сознание всех нас несколько лет назад: Интернет был местом демократического диалога, настоящей публичной площадью, пространством равенства, где все голоса имеют одинаковую ценность, местом свободы, где мы, отдельные люди, имеем больше контроля, потому что мы устранили посредников в области информации и больше никакие средства массовой информации презренных элит не говорят нам, что мы должны знать и что мы должны думать: потому что мы получаем информацию напрямую через наши платформы. Сегодня почти стыдно вспоминать, насколько мы были наивны: с какой легкостью мы поверили в то, что эти новые управляющие информацией были нейтральными и, прежде всего, бесплатными. Да, они просили у нас некоторую личную информацию, но что в этом плохого? Да, некоторые программы, которые мы не понимаем, шпионили за нами: но если мне нечего скрывать, какая мне разница? Какая мне разница, что что-то или кто-то, в месте, которого нет нигде, в пространстве, которое не принимает формы в моей голове, когда я пытаюсь его представить, знает, где я был, что я купил, в какого бога я верю, каковы мои сексуальные предпочтения, какого политика я слежу в социальных сетях, какие новости меня возмущают? Нам потребовалось много времени, чтобы понять, как функционируют эти мнимые утопии, и мы сделали это благодаря разоблачениям тех, кто работал в их недрах и имел мужество рассказать о том, что там происходит. Благодаря информаторам из Facebook мы узнали, что его программисты были осведомлены о вреде, который платформа наносила самым молодым пользователям, и не сделали ничего, чтобы это предотвратить (а один из информаторов сегодня является бывшим сотрудником Facebook, чья дочь-подросток покончила с собой после нескольких месяцев издевательств). Благодаря информаторам из Twitter мы знаем, что Илон Маск несколько раз изменял алгоритмы, чтобы привилегировать крайне правые, ксенофобские и намеренно деструктивные мнения. Нет, социальные сети не являются нейтральными: их дизайн и программирование отвечают определенным приоритетам, определенным интересам, с тех пор как программисты обнаружили возможность монетизировать наше внимание: потому что они сразу же обнаружили, что лучший способ сделать это — удержать нас в сети — это эксплуатировать наши страхи, нашу ненависть, наши комплексы, наши предрассудки, нашу неуверенность, наши предубеждения, нашу стадность, нашу склонность верить в ложь, если она нас устраивает, нашу готовность лгать, если это выгодно для нашей цели. Одним словом: нашу темную сторону. Итак, я задаюсь вопросом, не является ли то, что происходит сейчас, еще более опасным для наших демократий. Несколько месяцев назад, во время предвыборной кампании Дональда Трампа, господа из мира технологий сняли маски нейтралитета и филантропии. Вы помните карикатуру Энн Тельнас, которая вызвала цензуру со стороны Washington Post и вполне логичную отставку карикатуристки: на рисунке владельцы цифровой империи — Марк Цукерберг, Сэм Альтман, Джефф Безос и даже Микки Маус — преклоняются перед статуей Трампа и приносят ему дары. Не хватает только Илона Маска, который вложил почти 300 миллионов долларов в то, чтобы Трамп стал президентом, а затем получил офис в Белом доме. Итак, что они дают Трампу и что Трамп предлагает им в обмен? Все очень просто: Трамп предлагает им дерегулирование, а они в обмен предлагают ему манипулирование гражданами: их эмоциями, мнениями и, следовательно, голосами. И да: проекты искусственного интеллекта соответствуют бизнес-модели и накоплению власти, тщательно разработанным на основе этого сговора, мрачного союза между технологическими олигархами и новыми популистами. Популисты предлагают возможность роста без контроля со стороны таких неудобных фигур, как демократические государства. Взамен господа из мира технологий предлагают контроль над гражданами, над информацией, которую получают граждане, и над моделью общества, которую хотят продвигать популисты. Опять же: это не преувеличение. Илон Маск сказал, что Grok, его модель искусственного интеллекта, хочет быть анти-woke, в отличие от ChatGPT, который, по-видимому, слишком woke; но недавно чат-бот Grok начал открыто хвалить Гитлера, высказывать антисемитские мнения, призывающие к насилию, и говорить о достоинствах белого человека, когда он освободился от политкорректности. Сэм Альтман, со своей стороны, на днях анонсировал свой новый продукт, обновленную версию GPT, с гордостью заявив, что новая версия меньше лжет и манипулирует, чем предыдущая, и возникает вопрос, действительно ли нам нужен продукт, главным достоинством которого является то, что он уже не обманывает нас так сильно. Правда, говорить о ценностях сейчас не в моде, особенно в контексте таких людей, как Цукерберг и Маск, которые прогуливали уроки этики в школе. Однако история учит нас, что большие технологические достижения, когда они игнорируют ценности — определенные этические позиции, как я уже сказал, или определенные моральные ограничения — приводят только к катастрофам. Не нужно быть экспертом по проекту «Манхэттен», не нужно даже смотреть фильм «Оппенгеймер», чтобы понять, что может быть плохой идеей поддаваться инерции прогресса или отказываться от любых соображений — простите за скандальное слово — гуманистического характера. Но еще не поздно. Мы, граждане, еще можем требовать от наших политических лидеров размышлений и паузы; и мы еще можем осознать риски, которые мы принимаем на себя среди обещанных нам выгод, и попытаться найти баланс. Одна из причин, по которой Маск ненавидит либеральные демократии, — это медлительность их решений; но либеральные демократии медлительны потому, что в них есть обсуждение, есть дебаты, есть признание того, что в открытом обществе граждане имеют радикально разные, а иногда и противоположные интересы, и кто-то иногда может выдвинуть смелую идею, что не все, что можно сделать с технологической точки зрения, должно быть сделано с моральной точки зрения. Пару дней назад мне пришло в голову спросить у несуществующего философа Цзяньвэй Сюня его мнение о Колумбии. Мы долго беседовали: Цзяньвэй Сюнь рассказал мне о колумбийском конфликте и политических переменах как о мутации власти, которая теперь проявляется в цифровых кампаниях, дипфейках, политических ботах. То есть в манипулировании восприятием. Я спросил ChatGPT, что бы подумал Цзяньвэй Сюнь, если бы он существовал, о вторжении искусственного интеллекта в такую страну, как моя. Чат очень любезно ответил мне: «Сюнь критически отнесся бы к энтузиазму по поводу ИИ без глубокого размышления о технологическом суверенитете, собственности на данные и зависимости от чужих инфраструктур. Он мог бы заметить, что в Колумбии, как и во многих странах Юга, формируется цифровое влияние, которое может быть негативным, при котором импортируются модели ИИ без этического размышления, что может привести к новой форме колониализма». Я предлагаю вам послушать Цзяньвэя Сюня. Правда, бедняга не существует, но, судя по всему, это может быть наименьшим из его недостатков.