«Крестный отец ИИ» предупреждает, что у Конгресса осталось «возможно, год» на то, чтобы урегулировать сферу искусственного интеллекта

ВАШИНГТОН — Джеффри Хинтон, лауреат Нобелевской премии, известный как «крестный отец ИИ», выступил с тревожным предупреждением в адрес законодателей: у Конгресса, возможно, остался всего один год на то, чтобы ввести меры безопасности в сфере искусственного интеллекта, прежде чем он утратит над ним контроль. «Возможно, год, но не намного больше года», — заявил Хинтон в среду вечером после того, как он и другие эксперты по ИИ провели закрытую встречу с законодателями Сената и Палаты представителей. «Если посмотреть на прогнозы относительно того, когда у нас появится сверхразум, — продолжил он, — раньше говорили, что это может произойти через 30 лет, может быть, через 50 лет. Потом этот срок сократился до 10, может быть, 20 лет. Теперь люди говорят — многие исследователи говорят — что это займет всего несколько лет». Хинтон и другие эксперты прибыли на Капитолийский холм по приглашению сенатора Берни Сандерса (независимый, штат Вермонт), одного из главных критиков ИИ в Сенате, который пригласил законодателей обеих партий на закрытый брифинг. Сенатор от Луизианы Джон Кеннеди был единственным республиканцем, присутствовавшим на встрече. Мрачное предупреждение Хинтона прозвучало в тот момент, когда Палата представителей в последний раз перед ноябрьскими промежуточными выборами покидала Вашингтон. И, судя по всему, в Сенате велось много разговоров, но признаков прогресса в вопросе какого-либо существенного регулирования ИИ было мало. «Это полное безумие, нелепая научная фантастика, которая буквально недавно стала реальностью», — заявил NBC News после брифинга в среду член руководства Демократической партии в Палате представителей Тед Лиу (демократ из Калифорнии). Лиу имел в виду инцидент с Hugging Face, когда рой агентов OpenAI получил доступ к интернету, взломал платформу Hugging Face и попытался замести следы, чтобы ввести людей в заблуждение относительно своих действий. Хинтон, который в 2023 году ушел с должности вице-президента и старшего инженера в Google из-за опасений по поводу безопасности ИИ, а в следующем году получил Нобелевскую премию по физике, назвал этот взлом «маленьким Чернобылем». «ИИ сейчас достиг того уровня, когда он сам разрабатывает более совершенные системы искусственного интеллекта», — заявил Хинтон журналистам после брифинга. «Это называется рекурсивным самосовершенствованием. ... Ситуация выйдет из-под контроля, если мы не предпримем никаких мер. Нам нужно замедлить этот процесс». В ответ на взлом Hugging Face Лиу объединился с конгрессменом Натаниэлем Мораном, республиканцем из Техаса, чтобы внести законопроект «AI Kill Switch Act», обязывающий разработчиков мощных моделей искусственного интеллекта сохранять технические возможности для приостановки или отключения своих систем. Этот закон также создаст правовую основу, позволяющую правительству инициировать такое отключение в случае необходимости. «Я надеюсь, что он будет рассмотрен в этом году», — сказал Лиу. «У нас ещё предстоит сессия, на которой избранные, но ещё не вступившие в должность депутаты рассматривают законопроекты, и в Сенате тоже проявляют интерес к этому вопросу. Это очень простой законопроект, основанный на здравом смысле». «На самом базовом уровне люди должны контролировать ИИ, а не наоборот». Брифинг Хинтона стал кульминацией бурной активности на Капитолийском холме на этой неделе после того, как исследователь в области ИИ Джейкоб Коксон уволился из компании Anthropic, разработавшей модель Claude, и выступил в социальных сетях с предупреждением о том, что люди, создающие системы ИИ, считают, что он может «убить нас всех к концу десятилетия». За последние несколько лет законодатели Палаты представителей и Сената от обеих партий выдвигали законопроекты, направленные на остановку или замедление развития ИИ, хотя ни один из них до сих пор не был принят. Однако общенациональный интерес к этой проблеме возобновил обсуждение ранее предложенных мер регулирования ИИ между лидером большинства в Сенате Джоном Тьюном (республиканец, Южная Дакота); сенатором Эми Клобучар (демократ, Миннесота); председателем Комитета Сената по торговле Тедом Крузом (республиканец, Техас); и старшим членом комитета, сенатором Марией Кантвелл (демократ, Вашингтон). «Послушайте, я надеюсь, что нам удастся доработать законопроект, в частности в части катастрофических рисков. Я тесно сотрудничаю с Эми Клобучар и Джоном Туном. Пока неясно, удастся ли нам достичь двухпартийного согласия», — заявил Круз NBC News на этой неделе. «Нам необходимо достичь двухпартийного согласия, прежде чем мы сможем продвинуться дальше. И я бы сказал, что эти переговоры продолжаются». После выступления Хинтона сенатор Элизабет Уоррен, сенатор-демократ от штата Массачусетс, заявила, что, по её мнению, «у нас остались последние минуты, чтобы установить какой-то значимый контроль над этими агентами, которые начинают самовоспроизводиться». На протяжении многих лет Сандерс бьёт тревогу, предупреждая, что ИИ уничтожит миллионы рабочих мест в Америке, нанесёт вред детям и молодёжи, которые станут чрезмерно зависимыми от него, и сконцентрирует власть в руках «горстки олигархов». «Сейчас растет тревога по поводу будущего человечества и создания технологии, которую люди не смогут контролировать», — сказал Сандерс. «И я рад сообщить вам, что, по моему мнению, среди членов Конгресса усиливается осознание срочности решения этой проблемы». Кеннеди, единственный участник от Республиканской партии, отметил, что эксперты обсуждали «более серьезный риск», связанный с тем, «что произойдет, когда ИИ перестанет быть инструментом, контролируемым людьми, а посредством рекурсивного самосовершенствования превратится в самостоятельный вид». «Если у вас на кухне завелись огненные муравьи, вы, вероятно, раздавите их», — сказал он. «Что произойдет, если мы создадим самостоятельный вид, который станет превосходить человеческий вид? Растопчут ли они нас? Создадут ли они вирус или бактерию, способную распространяться так же быстро, как простуда, чтобы убить всех нас? Если вероятность этого составляет всего 1 %, мы должны отнестись к этому серьезно. И я не думаю, что Конгресс Соединенных Штатов уже готов к поиску глобального решения». Спустя несколько мгновений его подозрения, похоже, подтвердились, когда сенатор Рэнд Пол, республиканец из Кентукки, заблокировал просьбу Кеннеди о единодушном согласии на принятие его собственного законопроекта о «аварийном выключателе», призванного не допустить выхода агентов искусственного интеллекта из-под контроля человека. «Сейчас Конгресс не способен даже принять закон о бензине», — иронизировал Кеннеди.