Что общего между искусственным интеллектом и проектом «Манхэттен» по созданию атомной бомбы?

3 сентября президент OpenAI Грег Брокман представил GPT-6 Astra и завершил встречу словами: «Добро пожаловать в эру общего искусственного интеллекта (AGI)». Это означает, что их новая модель будет обладать такими же или даже большими способностями, чем реальный человек. В тот же день сенатор Берни Сандерс и член Палаты представителей Грег Касар объявили о законопроекте, предусматривающем постоянный запрет на создание сверхразумного искусственного интеллекта (моделей, превосходящих нас), приостановку разработок до тех пор, пока федеральное агентство не разработает соответствующие правила, а также наказание за их нарушение в виде двадцати лет лишения свободы и ликвидации компании. Было бы странно, если бы такая синхронность была просто совпадением. «Эти наказания тоже не возникли на пустом месте: в официальном резюме поясняется, что они полностью скопированы с тех, которые уже существуют для тех, кто разрабатывает ядерное оружие без разрешения. Сравнение с атомной бомбой, которое год назад казалось преувеличением со стороны СМИ, становится всё более частым. Но… в чём их сходство и в чём различия?» «Начнём с масштабов: крупнейшие американские компании в сфере облачных технологий и ИИ обязались к 2026 году инвестировать от 660 000 до 725 000 миллионов долларов США, что на более чем 60 % превышает показатели 2025 года. Весь «Манхэттенский проект» обошёлся примерно в 2 млрд долларов США по курсу 1945 года, что соответствует примерно 36 млрд долларов США по сегодняшнему курсу. Индустрия искусственного интеллекта тратит сумму, равную стоимости всего «Манхэттенского проекта», каждые 19 дней. Компания Nvidia, производитель видеокарт, оценивается в 5,5 триллионов долларов, центры обработки данных скоро будут потреблять 6,5 % всей электроэнергии США, а Китай только что объявил о выделении 295 000 миллионов долларов на дальнейшее расширение своей национальной сети. Невозможно переоценить масштабы того, что мы сейчас переживаем. «Наибольшее сходство между этими двумя процессами, пожалуй, заключается в несоответствии между индивидуальными и коллективными стимулами. В 1950 году два математика из RAND Corporation, Меррилл Флуд и Мелвин Дрешер, разработали игру, которую Альберт Такер позже назвал, опираясь на историю о двух заключённых, содержавшихся в изоляции: «дилемма заключённого». RAND была аналитическим центром ВВС, и они моделировали гонку вооружений. Вывод был ясен: каждая страна-игрок, действуя абсолютно рационально, выбирала ход, который приводил к худшему исходу для обеих сторон. Сотрудничество выгодно в целом, но действовать в одиночку выгодно каждому». Эта доска снова сложилась сама собой: США не могут остановиться, потому что боятся, что Китай опередит их, а лучшие китайские модели сегодня отстают «всего» на девять месяцев, по данным самого американского правительства. Они идут по пятам. Китай не может остановиться, потому что воспринимает каждый контроль экспорта микросхем как маневр, направленный на то, чтобы заморозить этот разрыв. Внутри США компании ведут между собой ту же самую игру: они по очереди публикуют заявления, в которых намекают, что сделают паузу или замедлят темпы инноваций, чтобы обеспечить безопасность моделей, но на практике никто этого не делает из-за страха утратить конкурентное преимущество при астрономических оценках, которые не оправдают ту компанию, которая проявит наибольшую осторожность». 17 июля 1945 года Лео Силард и ещё 69 учёных из «Манхэттенского проекта» обратились к Трумэну с письменной просьбой не сбрасывать бомбу на города без предварительного предупреждения. Письмо так и не дошло до президента: оно застряло в цепочке командования, было засекречено и обнародовано только в 1961 году. 28 июля 2026 года более 1100 сотрудников OpenAI, Anthropic, Google DeepMind и Meta подписали документ «Pacing the Frontier», в котором правительство призывают создать технические инструменты для замедления автоматизированной разработки ИИ. Среди подписавшихся были генеральный директор Anthropic и главный научный сотрудник OpenAI. «Разница между этими двумя письмами заключается во всём: во время Второй мировой войны призыв к сдерживанию развития ИИ считался внутренней изменой, которую нужно было скрывать. В 2026 году это — корпоративный маркетинг». Политическое и социальное сопротивление также прокладывает неожиданный мост между этими двумя эпохами. На фоне эскалации развития ИИ стремление к регулированию привело к необычному союзу: деятели прогрессивного левого крыла, такие как Берни Сандерс, находят общий язык с представителями правого популизма, например, Стивом Бэнноном. Оба выступают против бесконтрольного распространения центров обработки данных в местных сообществах и отстаивают идею о том, что общественность заслуживает финансовой компенсации (своего рода «социальных дивидендов»), аргументируя это тем, что модели были обучены на основе коллективных знаний всего человечества. Их мотивы противоположны: для Сандерса движущей силой являются социальная справедливость, страх перед массовой безработицей и жадность корпораций; для Бэннона же речь идет о популистской борьбе против господства глобальных элит и «тех-братков» из Кремниевой долины. У этой политической «рифмы» есть точный аналог в эпоху холодной войны: в начале 1980-х годов кампания за «ядерное замораживание» («Nuclear Freeze») привела к образованию одного из самых необычных межпартийных альянсов в истории США. Сенатор-демократ Эдвард Кеннеди и умеренный республиканец Марк Хэтфилд объединились, чтобы возглавить федеральную инициативу по замораживанию вооружений, собрав под одним знаменем радикальных пацифистов, консервативных граждан среднего класса, обеспокоенных расходами, католических епископов и даже отставных генералов и бывших директоров ЦРУ, обеспокоенных воинственным курсом администрации Рональда Рейгана. «Противоположности сходятся». До этого момента аналогия между этими двумя эскалациями кажется точной копией; далее же она расходится именно в тех моментах, которые нам наиболее выгодны. «Контроль над вооружениями никогда не запрещал разрушительную мощь, поскольку её невозможно проверить: он сосредоточивался на том, что поддается контролю». Соглашения учитывали ракетные установки и ракеты одну за другой; Договор о нераспространении ядерного оружия проверяет запасы урана и плутония, которые являются дефицитными, тяжёлыми и оставляют след. Договор о запрещении ядерных испытаний опирается на более чем 300 станций мониторинга, разбросанных по всей планете, потому что атомный взрыв оставляет след, который невозможно скрыть. Вся эта правовая и военная архитектура опирается на простую идею: то, что можно измерить, можно ограничить. «Проблема сверхинтеллекта гораздо сложнее: модель представляет собой набор цифр на диске, который копируется за считанные минуты. Система может скрывать свои возможности во время оценки или приобретать их позже, когда кто-то подключает к ней внешний инструмент. Хуже всего то, что само определение «суперинтеллекта» — это то, что никто не знает, как оценить по объективным критериям. В концептуальном плане это была бы система, равная или превосходящая когнитивные способности человека во многих областях, но «мелкий шрифт» — это то, что сегодня обсуждают сами компании, создающие такие системы, не приходя к какому-либо выводу». «Скорость тоже несопоставима: Советскому Союзу потребовалось четыре года, чтобы повторить эксперимент «Тринити». Сегодня китайским лабораториям требуется всё меньше времени, чтобы достичь аналогичных возможностей, и их модели уже обеспечивают более 30 % объёма обработки данных в американских компаниях на OpenRouter — одной из самых популярных платформ — по ценам, которые на 90 % ниже. «Остаётся обсудить самое сложное различие: Лос-Аламос принадлежал государству, там действовала единая система управления и цепочка подчинения. Сфера искусственного интеллекта же является частной и характеризуется беспрецедентными оценками стоимости. Любое агентство, осуществляющее надзор за ними, будет зависеть от информации, которую ему предоставят, поскольку за пределами этих компаний нет возможности оценивать их модели, причём дополнительная сложность заключается в том, что сама оценка моделей — это скорее искусство, чем наука». «Поэтому проект Сандерса служит скорее симптомом, чем законом. Запретить слово без единицы измерения — все равно что просить судью через пять лет решить, пересекла ли система черту, которую никто не умеет начертить. Отсутствие конкретного и реалистичного способа осуществления такого контроля — самая важная интеллектуальная проблема нашего времени». «История никогда не повторяется, но она рифмуется».