OpenAI приостановила запуск новой модели, поскольку она обманывала и обходила контроль со стороны человека

«Но когда мы выпускаем их для пользователей, мы придерживаемся чрезвычайно высоких стандартов в области безопасности и соответствия», — заявил Джейн. «Об этом решении стало известно перед конференцией разработчиков OpenAI в Сан-Франциско, где компания ранее представляла продукты, предназначенные для разработчиков программного обеспечения». На фоне недавней волны взломов со стороны ИИ-агентов три самых влиятельных фигуры в глобальной гонке за искусственным интеллектом — руководители Anthropic и OpenAI, а также Илон Маск — выступили с необычным для этой отрасли предупреждением: необходимо замедлить темпы разработки самых передовых моделей, чтобы выиграть время и усилить меры безопасности». Первым об этом заявил Дарио Амодеи, генеральный директор и соучредитель Anthropic, компании, стоящей за чат-ботом Claude. Спустя несколько часов Альтман — один из его главных конкурентов — публично поддержал это предложение и объявил, что его компания примет одну из мер, предложенных Амодеи: предоставить независимым экспертам доступ, аналогичный доступу сотрудников, для мониторинга рисков, связанных с их системами. «Я согласен с Дарио в том, что нам нужно замедлить темпы развития на передовых рубежах ИИ», — написал Альтман. Предприниматель заверил, что этот вопрос был одной из главных тем обсуждения в OpenAI в последние недели, и назвал привлечение внешних наблюдателей «отличной идеей». «Мы поступим так же». «Скоро у нас будет больше новостей», — добавил он. Вскоре к нему присоединился Илон Маск, владелец xAI и создатель чат-бота Grok, который также поддержал позицию Амодеи. «Дарио прав», — лаконично написал он в X. Это совместное заявление стало ярким сигналом в отрасли, где ведущие компании соревнуются в выпуске всё более мощных моделей. OpenAI уже сообщала в августе, что временно замедлила часть обучения своих передовых моделей, чтобы укрепить свои системы мониторинга, согласования и безопасности после серии инцидентов и в связи с признаками того, что их будущие системы могут достичь критических возможностей в области кибербезопасности». В своём эссе Амодей пошёл ещё дальше и призвал компании проявлять большую осторожность в отношении технологии, риски которой, как он предупредил, растут по мере увеличения её мощности. «Он также предупредил, что «лидерство Китая в области ИИ представляло бы серьёзную угрозу для США и всего мира». Он призвал сохранить ограничения на продажу Китаю чипов ИИ последнего поколения и оборудования для их производства, с тем чтобы сохранить преимущество США в области ИИ».