Пришло время бить тревогу по поводу ИИ

«Похоже, к апрелю, ну, вы понимаете, теоретически, когда станет чуть теплее, он чудесным образом исчезнет». Так высказался президент Дональд Трамп о вспышке Covid-19 10 февраля 2020 года, примерно за месяц до того, как она вынудила нашу страну и весь мир вступить в период длительного карантина. Почему я вспоминаю об этом сегодня? Потому что, оглядываясь на крупнейшие катастрофы, о которых я писал — включая 11 сентября и COVID-19, — меня поражает, что у них есть одна важная общая черта: отсутствие воображения. Конечно, правительственные эксперты теоретически готовились к этим событиям, но на практике: сколько из них могли представить, что террористы-смертники направят пассажирские самолеты на Всемирный торговый центр и Пентагон? И сколько из них могли представить, что респираторный вирус, возникший в Ухане (Китай), унесет жизни миллионов людей и на долгие годы погрузит мировую экономику в кризис? Поэтому сегодня, перед лицом возможности того, что искусственный интеллект — который попадает в руки недобросовестных игроков и начинает проявлять собственную волю — станет невероятно дестабилизирующим фактором, мое воображение находится в полной готовности. Вот что подсказывает мне мое воображение: оно говорит мне, что крупные компании в сфере искусственного интеллекта в США и Китае не честны с нами в отношении того, насколько мало они сами понимают силу и масштабы моделей, которые они — словно ученики колдуна — разработали в своих лабораториях. Он говорит мне, что администрация Трампа, возглавляемая человеком, который зачастую управляет страной с помощью постов в социальных сетях, совершенно не способна осуществлять тот комплексный, последовательный и скоординированный подход, который необходим для обеспечения безопасности ИИ. И он говорит мне, что на кону стоит так много — в экономической, военной и технологической сферах — и что между Вашингтоном и Пекином столь мало доверия, что потребовалось бы чудо, чтобы США и Китай договорились о том глубоком сотрудничестве, которое необходимо для нейтрализации самых страшных угроз, исходящих от ИИ. Тем не менее ещё не слишком поздно радикально переосмыслить ситуацию, прежде чем произойдёт что-то очень серьёзное, что заставит всех ключевых игроков делать то, о чём они и не думали; то, что им придётся делать в разгар кризиса, вызванного ИИ. Я предпочту, чтобы меня запомнили как мальчика, который кричал «Волк!», хотя волк так и не появился, чем как того, кого волк съел. Итак, вот оно: «Волк, волк, волк, волк». Я перестану настороже, когда увижу, что США и Китай начинают бороться с непосредственной угрозой, объединяя усилия для защиты критически важной инфраструктуры — систем водоснабжения, электросетей, Интернета — как в своих странах, так и во всём мире. Но я смогу вздохнуть с облегчением только тогда, когда увижу, что Вашингтон и Пекин сотрудничают со своими компаниями, занимающимися искусственным интеллектом, в разработке долгосрочного плана, который позволит им и дальше конкурировать в сфере ИИ-технологий, одновременно согласовав внутренние меры безопасности, чтобы не допустить, чтобы все более совершенные системы ИИ самостоятельно создавали катастрофические риски в таких областях, как кибербезопасность, биология, атомная энергетика или финансы. Речь идет о геополитическом, геоэкономическом и технологическом вызове, с которым ни одно поколение американских или китайских государственных деятелей никогда раньше не сталкивалось. Игнорирование этого вызова представляет опасность как для них, так и для нас. Тот, кто говорит вам, что мы не можем позволить себе регулирование в данный момент, потому что оно может затормозить инновации, упускает из виду три вещи. Во-первых, те, кто утверждает, что регулирование по определению уничтожает как инновации, так и рынок, «просто не знают истории», заявил Эрик Бейнхокер, исполнительный директор Института нового экономического мышления при Мартин-школе Оксфордского университета. «Хорошее регулирование порождает доверие, а доверие способствует росту рынков. Как, по-вашему, авиационная или фармацевтическая отрасли стали такими крупными и росли так быстро? Благодаря тому, что государственное регулирование вселило в потребителей уверенность в том, что самолеты, на которых они летают, и лекарства, которые они принимают, безопасны». Стала бы фармацевтическая отрасль такой, какой она является сегодня, если бы люди не были уверены в том, что лекарства, которые они покупают в аптеке — не задумываясь ни на мгновение — прошли процесс регулирования? Поскольку мы пока не столкнулись с катастрофой, вызванной ИИ, люди соглашаются с подходом невмешательства. Но когда это произойдет, люди обратятся против гуру «отсутствия регулирования» — таких, как Дэвид Сакс, советник Трампа по вопросам ИИ, — и совершенно справедливо. Любая компания, создавшая ИИ-агента, способного нанести какой-либо ущерб миру, «должна нести за это ответственность», добавил Бейнхокер. Именно этого мы и не сделали в отношении магнатов социальных сетей, и за это заплатили очень высокую цену. Мне было приятно услышать, как в понедельник министр финансов Скотт Бессент заявил в эфире CNBC, что администрация Трампа не предоставит лидерам в сфере ИИ «щит от юридической ответственности». Возможно, это лучший способ сдержать их в краткосрочной перспективе. Надеюсь, Китай поступит так же. Во-вторых, ИИ — это не только технология, но и, как отмечает компьютерный специалист Крейг Мунди, «новый вид». И, как и любой новый вид, он уже демонстрирует эволюционные свойства. «Мы выпустили Дарвина на свободу в мире кремния», — пояснила Бейнхокер. Новейшие модели ИИ продемонстрировали способность к «самосовершенствованию, самовоспроизведению и самосохранению». «Когда эти три фактора сочетаются, а их развитие происходит со скоростью кремния — а не со скоростью человека, — мы сталкиваемся с чем-то чрезвычайно мощным, потенциально опасным и невозможным для контроля». Это приобретает ещё большую актуальность по мере того, как мы начинаем наделять наши системы ИИ физическими телами в виде роботов, дронов и транспортных средств. Мы должны гарантировать, что за процессом всегда будет следить человек — чтобы эти системы никогда не были полностью автономными — до тех пор, пока мы не сможем обеспечить, что они всегда будут действовать в интересах благополучия человека, добавила Бейнхокер. В-третьих, наш президент сейчас управляет страной так же, как, по слухам, управляла «Организация Трампа», которая столкнулась с многочисленными банкротствами: практически отсутствует регулярный нормативный процесс, взаимодействие между ведомствами слабое, и в большинстве случаев все в администрации просто ждут, что президент опубликует в социальных сетях — часто основываясь на последнем собеседнике или на том, что он услышал на Fox News, — а затем пытаются выработать политику исходя из этого. (Хорошо, что, как мне рассказывают мои источники, по крайней мере Бессент углубился в вопросы искусственного интеллекта и ведет диалог с китайцами. Однако пока неизвестно, удастся ли ему скоординировать усилия членов этой администрации в этом вопросе). Мои коллеги из «Нью-Йорк Таймс» недавно сообщили, что источники, близкие к Трампу, ясно дали понять: его пренебрежительное отношение — он назвал это «фарсом» — к опасениям, что ИИ может привести к массовому вымиранию, не основано на какой-либо технологической оценке. Как они сообщили, такая позиция скорее обусловлена его опасением, что «если рост искусственного интеллекта, который стимулирует американскую экономику, замедлится, рынок может обвалиться, что быстро приведет к рецессии». Такой образ мышления — верный путь к беде. Трампу стоило бы поразмыслить над словами другого президента. Дуайт Д. Эйзенхауэр произнес знаменитую фразу: «Планы бесполезны, но планирование — это всё». Под этим он подразумевал, что ни один жесткий план не способен выдержать непредвиденных обстоятельств, возникающих после начала войны или кризиса. Но если был проведён тщательный процесс планирования — с изучением масштабов проблемы и аспектов, которые могут пойти не так, а также с укреплением доверия внутри команды, — это значительно повышает способность адаптироваться по ходу дела. Именно этого и не хватило в преддверии войны Трампа с Ираном, и сегодня мы платим за это очень высокую цену. Представим себе, что может произойти, если агенты ИИ — в тысячу раз умнее и опаснее, чем Тегеран или Трамп — выйдут из-под контроля.