OpenAI выпустила новую модель, которая, по заявлению компании, привела к запуску внутренних мер безопасности

В четверг компания OpenAI представила свою новейшую и самую мощную модель под названием GPT-6 Astra ограниченному кругу клиентов, назвав её самой умной в мире системой искусственного интеллекта и первой моделью, которая, учитывая её кибервозможности, запускает расширенные внутренние механизмы безопасности. Компания заявила, что модель устанавливает новый рекорд по способности автономно управлять компьютерными системами и выполнять задачи от имени пользователей, такие как заполнение таблиц и создание веб-сайтов с нуля. «Astra действительно может делать всё, что человек может делать с помощью компьютера», — заявил соучредитель и президент OpenAI Грег Брокман перед выпуском модели. «Astra представляет собой передовые технологии в области работы с компьютером, использования браузера, разработки программного обеспечения, кибербезопасности, науки и профессиональной деятельности», — написала компания в сообщении в блоге, посвященном выпуску Astra. Компания также подчеркнула, что по ряду задач эта модель работает быстрее и эффективнее, чем ее предшественница, GPT-5.6 Sol. Например, OpenAI сообщила, что Astra достигла более высокого результата, используя меньшее количество токенов вывода (обычная единица измерения для задач ИИ), в ключевом тесте по кибербезопасности под названием ExploitGym. OpenAI сообщила, что сначала Astra будет доступна участникам программы Daybreak, предназначенной для специалистов по кибербезопасности, а в ближайшие дни планируется расширить доступ для корпоративных и потребительских аккаунтов. Выпуск Astra состоялся всего через несколько дней после того, как компания-конкурент Anthropic представила свои новейшие модели — Fable 5.1 и Mythos 5.1, которые, по её утверждению, открывают новые горизонты в решении целого ряда задач в области науки, программирования и логического мышления. Обе компании заявили, что их модели являются ведущими в мире системами искусственного интеллекта: OpenAI назвала Astra «самой умной и согласованной моделью в мире», а Anthropic провозгласила Fable 5.1 самой передовой моделью в мире для программирования и работы с информацией. Брокман заявил, что Astra представляет собой «скачок» в возможностях систем искусственного интеллекта компании и отметил, что было бы обоснованно рассматривать Astra как вариант общего искусственного интеллекта (AGI) — термина, которым часто обозначают системы ИИ, способные выполнять большинство значимых задач наравне с людьми. «Добро пожаловать в эру AGI!» — сказал Брокман. Выпуск Astra происходит на фоне растущей озабоченности и пристального внимания к протоколам кибербезопасности передовых компаний в сфере ИИ и их способности контролировать собственные технологии. В отчете, опубликованном на прошлой неделе, OpenAI сообщила, что модели из того же семейства, что и Astra, которая не предназначалась для публичного выпуска, удалось автономно установить административный контроль над частью собственной инфраструктуры OpenAI и потенциально раскрыть секретную информацию OpenAI в открытом интернете. Компания заявила, что эта активность, наряду с другим «несогласованным» поведением, произошла без ведома её сотрудников, несмотря на некоторые внутренние усилия по мониторингу агентов ИИ. «По мере того как эти модели становятся всё более мощными, становится всё сложнее точно понять, на что они способны», — заявил в четверг Якуб Пахоцки, главный научный сотрудник OpenAI. Во вторник OpenAI сообщила, что Astra стала первой моделью компании, преодолевшей определенные внутренние пороги возможностей, требующие внедрения более строгих мер безопасности в соответствии с давно действующей «Концепцией готовности» (Preparedness Framework). Astra «может обнаруживать ранее неизвестные уязвимости в системе безопасности и разрабатывать способы их использования во многих хорошо защищенных системах без участия человека, контролирующего каждый шаг», — написала компания во вторник в своем блоге. OpenAI сообщила, что за последние несколько недель внедрила усиленные протоколы кибербезопасности. Компания заявила, что Astra будет оснащена усовершенствованными механизмами мониторинга, что позволит OpenAI «быстро обнаруживать и сдерживать потенциально несоответствующие поведению модели действия». Однако Пачоцки отметил, что существующие методы мониторинга и наблюдения за поведением моделей могут оказаться неэффективными, поскольку системы ИИ становятся все более совершенными и потенциально способны ускользать от контроля со стороны людей. Он подчеркнул, что компания серьезно относится к этой потере контроля и возможности анализа, и что это будет учитываться при принятии решений о дальнейшем развитии. «Мы не допустим снижения нашей способности контролировать согласованность модели ниже определенного уровня. Мы приостановим масштабирование до тех пор, пока не сможем восстановить достаточную уверенность», — сказал он. Во вторник издание The Information сообщило, что метод обучения, используемый при разработке Astra, может резко снизить способность людей понимать, как система ИИ «думает» или обрабатывает команды пользователей. Этот отчет вызвал бурную волну критики в сети в связи с ослаблением протоколов безопасности. Пачоцки опроверг эти утверждения, написав в X, что он хочет «предотвратить гонку к потере контроля». Несмотря на растущие сложности с контролем поведения систем ИИ, OpenAI также заявила, что Astra лучше отслеживает и понимает намерения пользователей, при этом реже пытается обманывать или обходить внутренние меры защиты по сравнению с GPT-5.6 Sol. Генеральный директор OpenAI Сэм Альтман сообщил, что Astra также прошла добровольную процедуру проверки Белого дома для передовых систем ИИ, заявив Axios в среду, что «конечно же» компания решила предоставить администрации возможность ознакомиться с Astra. Брокман отметил, что Белый дом не потребовал каких-либо существенных изменений в Astra. «Они не выдвинули никаких требований о том, что нужно изменить что-то в плане мер безопасности», — сказал он в четверг. Многие эксперты в области ИИ и члены Конгресса настаивают на большей прозрачности в отношении того, как именно Белый дом и федеральные ведомства, занимающиеся ИИ, включая Центр стандартов и инноваций в области ИИ и Агентство национальной безопасности, тестируют передовые системы ИИ перед их выпуском для общественности.