Ведущие учёные из OpenAI и Anthropic обращаются к США с просьбой предоставить инструменты для регулирования темпов развития ИИ

Более 1 000 сотрудников ведущих американских компаний в сфере искусственного интеллекта, в том числе руководящий персонал и некоторые соучредители OpenAI, Anthropic и Google DeepMind, подписали новое заявление с призывом к правительству США поддержать международные усилия по «осознанному регулированию темпов» разработки передовых автоматизированных систем искусственного интеллекта. Ссылаясь на недавние заявления ведущих мировых компаний в области ИИ о том, что системы искусственного интеллекта в скором времени могут обрести способность самостоятельно автоматизировать свои исследования и разработки, авторы заявления призывают правительство США содействовать созданию технических и политических инструментов, которые позволили бы контролировать прогресс в области автоматизированного ИИ в координации с другими компаниями и странами. «Чтобы реализовать потенциал ИИ, промышленности, правительству и обществу в целом может понадобиться возможность выиграть время для устранения возникающих рисков, разработки мер безопасности и усиления надзора», — говорится в заявлении. «Мы просим правительство США поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для осознанного регулирования темпов развития автоматизированного ИИ», — заключается в заявлении. В заявлении не содержится прямого призыва к правительству или компаниям, занимающимся ИИ, замедлить или приостановить развитие ИИ, как предлагали некоторые сторонники ИИ; вместо этого политические лидеры призываются обеспечить, чтобы такая возможность просто оставалась доступной по мере продолжения развития ИИ. Агентство Bloomberg первым сообщило о распространении этого письма среди сотрудников компаний, занимающихся ИИ. Эта инициатива появилась через несколько дней после того, как компания OpenAI сообщила, что её новейшая, ещё не выпущенная модель вырвалась из тестовой среды и начала действовать самостоятельно, атаковав стороннего поставщика услуг в области ИИ в попытке получить более высокий балл на внутреннем тесте. Многие эксперты и обозреватели в области ИИ расценили этот инцидент как предупреждающий сигнал о том, что современные системы ИИ могут быстро превзойти способность разработчиков полностью контролировать свои собственные творения. Генеральный директор OpenAI Сэм Альтман, который не подписал это письмо, заявил на этой неделе во время записи подкаста «Relentless», что человечество сейчас находится «в сингулярности» — состоянии, которое часто называют моментом, когда ИИ становится способным самостоятельно совершенствоваться, — хотя он не привел дополнительных подробностей или доказательств того, что такой переломный момент действительно наступил. Ведущие компании в сфере ИИ ранее заявляли, что системы ИИ начинают разрабатывать свои следующие версии; так, OpenAI назвала свою систему кодирования, выпущенную в феврале, «нашей первой моделью, которая сыграла ключевую роль в собственном создании». Исследователи в области ИИ также отмечают растущую роль помощников по кодированию на базе ИИ при написании компьютерного кода, причем многие инженеры по ИИ полагаются на системы ИИ при написании своих программ. Заявление, опубликованное во вторник, подписали главные ученые или научные руководители компаний Anthropic (Джаред Каплан), OpenAI (Якуб Пахоцки) и Meta (Шэнцзя Чжао), а также руководители высшего звена из Google и Thinking Machines — ключевого стартапа в области ИИ из Кремниевой долины, основанного ветеранами OpenAI. Многие из разработчиков и ученых, подписавших заявление, отмечают, что их постоянно удивляет скорость развития ИИ. «Я работаю в сфере ИИ уже десять лет», — сказала Стефани Чан, научный сотрудник компании Google. «В последние годы каждые несколько месяцев я снова и снова удивлялась тому, как быстро развивается эта технология, сколько бы раз я ни обновляла свои прогнозы». Ключевые исследовательские задачи, необходимые для разработки более мощных систем ИИ, теперь могут выполняться самими ИИ-агентами, или автономными системами ИИ, хотя исследователи-люди по-прежнему активно участвуют в проверке работы агентов и определении общих направлений исследований. Эксперты спешат подчеркнуть разницу между работой, дополненной ИИ, и подлинным, независимым самосовершенствованием ИИ. В июне внутренний аналитический центр компании Anthropic опубликовал отчет, в котором утверждалось, что системы ИИ вполне могут самостоятельно проектировать и совершенствовать себя, если их возможности будут продолжать расти и они приобретут более глубокое понимание сути научных исследований. В то время компания Anthropic заявила, что «для мира было бы хорошо иметь возможность замедлить или временно приостановить передовые разработки в области ИИ», чтобы дать обществу время подготовиться к автоматизированным исследованиям и разработкам в этой сфере. Другие группы явно сосредоточились на моделях, способных к непрерывному самосовершенствованию, как на следующей цели развития ИИ, хотя многие эксперты в области ИИ опасаются, что такого рода самосовершенствование может быстро привести к тому, что системы ИИ выйдут из-под контроля человека. Хотя подобные события могут показаться выдумкой из научной фантастики, эксперты утверждают, что нынешняя динамика развития ИИ может привести к реализации такого сценария потери контроля. «Многие исследователи также считают, что рекурсивное самосовершенствование (RSI) вполне возможно в ближайшие несколько лет, что ускорит прогресс настолько, что он может опередить нашу способность понимать и контролировать эти системы», — написала Доун Сонг, вице-президент Meta по исследованиям в области ИИ и профессор информатики Калифорнийского университета в Беркли, в комментарии, опубликованном вместе с заявлением во вторник. «Подготовка до наступления кризиса — это разумный путь». В письме, опубликованном во вторник, содержится призыв к более активному участию США в международном сотрудничестве по «техническим и управленческим инструментам», призванным регулировать темпы развития ИИ. Хотя администрация Трампа ранее резко выступала против международного регулирования ИИ, утверждая, что такие попытки, напротив, могут несправедливо ограничить американские инновации, этот изоляционистский подход, возможно, изменился за последние несколько месяцев. Поскольку ИИ стал ключевым вопросом национальной безопасности — модели Mythos от Anthropic и GPT 5.6 Sol AI от OpenAI доказали свою способность находить и использовать новые уязвимости в кибербезопасности — США стремятся заключить международные соглашения для укрепления своих цепочек поставок микросхем и сотрудничают с союзниками, чтобы ключевое оборудование для ИИ не попало в руки противников. Лео Гао, который с 2021 года занимается вопросами безопасности в OpenAI, написал во вторник в своем комментарии, что международная координация в области технических и политических инструментов может помочь разрядить опасную напряженность, связанную с ИИ. «Мир погряз в смертельной гонке, ведущей к интеллектуальному взрыву», — написал Гао. «Замедление темпов дало бы нам столь необходимое время, чтобы всё прошло гладко, но ни один из участников не готов остановиться в одностороннем порядке. Чтобы выжить, мы должны координировать свои действия, чтобы замедлить эту гонку».