Пророчество, пожирающее само себя

В сериале «DEVS» Алекса Гарланда команда инженеров создает квантовый компьютер, способный с абсолютной точностью моделировать любой момент прошлого и будущего. Машина работает и видит всё, и тем не менее сериал с некой философской элегантностью намекает, что это всеведение никого не освобождает: персонажи знают, что произойдёт, и всё равно поступают так же, смирившись с тем, что им предстоит следовать чужому сценарию, потому что в детерминированной вселенной другого пути нет. «Идеальное предсказание и свобода воли несовместимы». Искусственный интеллект — это не «DEVS». Но обещания, которые с ним связаны (модели, предсказывающие кризисы, эпидемии, финансовые коллапсы, социальные явления), подпитывают привычную иллюзию: что при наличии достаточного количества данных и вычислительных ресурсов будущее можно понять; что неопределённость — это проблема информации, а не онтологическое условие. «Примеров предостаточно. В 2008 году Google запустил Flu Trends — систему, которая обещала предсказывать вспышки гриппа в режиме реального времени на основе онлайн-поисковых запросов. Какое-то время казалось, что она работает. Затем она грубо переоценила пик сезона 2012–2013 годов. Проблема была скорее прозаической, чем технической: модель перепутала эпидемиологические сигналы с сигналами общественного внимания. Она не различала больных людей и тех, кто искал информацию, потому что о гриппе говорили в новостях. Вместо того чтобы измерять заболеваемость, она измеряла внимание». Та же иллюзия проявляется и в другой сфере. В Албании в сентябре 2025 года премьер-министр Эди Рама представил Диэллу — цифровой аватар, одетый в традиционный албанский костюм, — в качестве государственного министра, ответственного за проведение государственных тендеров. Логика была безупречна: если коррупция — это проблема непрозрачности, то прозрачный алгоритм решает её. Однако эта логика не учла, что коррупция — это не только проблема информации, но и проблема власти, стимулов и политического контроля, которую нельзя исправить с помощью дополнительных данных. Однако, помимо наивности этих позитивистских обещаний, стоит выделить один парадокс: абсолютно точная и достоверная модель прогнозирования привела бы к тому, что прогнозируемое событие никогда бы не произошло — ведь участники рынка действуют соответственно, принимают меры предосторожности, меняют своё поведение — в результате чего модель вновь становится совершенно неточной. Посмотрим на это с положительной стороны: её успех — это её опровержение. Пророчество пожирает само себя. «Этот парадокс не нов. В 1928 году экономист Оскар Моргенштерн утверждал, что точные экономические прогнозы в целом невозможны, поскольку публичное предсказание может само себя свести на нет, когда участники рынка действуют в соответствии с ним. Два десятилетия спустя Роберт Мертон сформулировал в социологии зеркальное отражение самореализующегося пророчества: предсказание, которое предотвращает событие, о котором оно говорит. Карл Поппер назвал это более общее явление «эффектом Эдипа»: предсказание, которое изменяет то, что оно пытается предсказать. «В экономике Грунберг, Модильяни и Герберт Саймон в 1954 году попытались доказать, что публичное предсказание может оказаться верным, даже если оно изменяет поведение агентов, используя для этого теорему о фиксированной точке Брауэра. Этот результат технически верный, но требует допущения о том, что функция реакции между прогнозом и результатом является непрерывной — условие, которое вряд ли выполняется в реальных социальных системах, где агенты реагируют скачкообразно, непредсказуемо, а порой и иррационально. Теоретическая возможность существует; практическая реализация — нет. «В той же традиции критика Лукаса (1976) показала, что эконометрические модели теряют свою обоснованность в тот момент, когда их используют для ведения политики, поскольку агенты реагируют, корректируя своё поведение в ожидании модели. Сорос распространил этот аргумент на финансовый рынок под названием «рефлексивности»: наблюдатель является частью наблюдаемой системы и изменяет её, наблюдая за ней». «По-видимому, ИИ не изобретает эту проблему, а лишь наследует её и масштабирует». «Это не технический сбой, который можно устранить с помощью дополнительных параметров; это логическое противоречие. Чтобы прогноз был идеальным, агенты не должны иметь возможности действовать в соответствии с ним, то есть у них не должно быть свободы воли. Но тогда мы возвращаемся к парадоксу DEVS: мир, определяемый идеальной прогнозной моделью, возможен только тогда, когда свобода является иллюзией. And that, far from alleviating the anguish of uncertainty, instills a different and more profound anguish: that of confinement. Garland’s characters are not at ease because they know their future; they are trapped in a present devoid of options. There is no agency without contingency: what defines our experience as humans—doubt, error, randomness—is the condition of possibility inherent in freedom. Total certainty is the cancellation of that possibility. “In practice, predictive models are useful precisely because they are imperfect: they provide probabilities, not certainties; they account for some factors and leave others out; they operate on the past to anticipate a future that is no longer exactly the same as the past. That gap—between the model and the world—is where human decision-making resides: the analyst who interprets, the official who weighs options, the doctor who adjusts the diagnosis to the history of the patient sitting before them. These are not deviations from the process; they are the process.” “What AI does well is reduce the cost of a certain type of cognitive work: classifying, summarizing, and detecting patterns in volumes of data that no human could process in time. What it cannot do is eliminate the accident: the event that wasn’t in the training set, the decision made for reasons no model anticipated because they were “irrational,” or too localized, or simply new. Technicians call this a distributional shift; humanists call it history. «Одно и то же явление, рассмотренное с разных точек зрения: мир постоянно порождает ситуации, которые не являются простыми интерполяциями прошлого, и кто-то должен действовать на той границе, где заканчивается модель и начинается непредвиденное. То, что этот «кто-то» по-прежнему остается человеком, — это не только функциональное описание пределов предсказания; это также говорит нам о природе человеческого поведения: действовать — значит не только рассчитывать, но и принимать решения в условиях неопределенности». Ошибка ДЕВС, как и тех, кто обещает будущее, переданное на аутсорсинг автономным агентам, заключается в том, что они полагают: неопределённость можно устранить, не лишившись при этом свободы. Совершенно предсказуемый мир, лишённый случайностей, где уже не остаётся ничего, что нужно было бы решать, стал бы не воплощением идеального порядка — социальной нирваны — а упразднением свободы воли: жизнью, сведенной к тому, чтобы как зрители наблюдать за программой, которую мы знаем наизусть».