Компания Anthropic выпустила модель Fable 5, созданную на основе той же технологии, которая напугала правительство

Во вторник днем компания Anthropic представила свою новейшую модель, открыв общественности доступ к самому мощному классу систем искусственного интеллекта, разработанных этой компанией. По заявлению компании, модель под названием Fable 5 является первым общедоступным продуктом из того же семейства, что и мощные модели Mythos от Anthropic, которые в начале этого года произвели фурор в мире кибербезопасности благодаря своей сверхчеловеческой способности находить и использовать киберуязвимости. «Возможности Fable превосходят возможности любой модели, которую мы когда-либо выпускали в открытый доступ», — заявила компания в блоге, объявляя о выпуске модели. «Она является передовой по почти всем тестируемым показателям возможностей ИИ, демонстрируя исключительную производительность в программной инженерии, работе с знаниями, зрительном восприятии, научных исследованиях и многих других областях». По словам компании, Fable 5 использует тот же уровень технологий, что и Mythos, но безопасна для использования широкой публикой благодаря встроенным защитным механизмам и ограничениям. Модель Mythos Preview от Anthropic, не имеющая подобных мер безопасности, смогла обнаружить тысячи критических и серьезных киберуязвимостей, включая ошибки и уязвимости во всех основных операционных системах и веб-браузерах. Многие исследователи в области ИИ опасаются, что все более мощные системы ИИ могут помочь злоумышленникам осуществлять кибератаки на банки, энергосистемы или другую критически важную инфраструктуру. Другие выдвигают гипотезу, что все более интеллектуальные системы ИИ могут помочь террористам разрабатывать и применять биологическое оружие. «Те же запросы, которые приносят пользу специалистам по кибербезопасности и исследователям в области биологии, могут стать опасными, если попадут в руки злоумышленников», — написала компания в своем блоге. Чтобы устранить эти потенциальные угрозы, Anthropic сообщила, что Fable 5 внедряется с защитными механизмами, которые блокируют многие из его ответов на запросы, касающиеся потенциально опасных тем. Для таких запросов пользователей Anthropic будет направлять ответы на более раннюю, менее мощную модель под названием Opus 4.8 — которая до вторника была самой производительной из общедоступных моделей. «Возможности Fable 5 в таких областях, как кибербезопасность, биология и химия, настолько продвинуты, что при запуске мы принимаем намеренно консервативный подход к этим темам», — написала Anthropic в ответе на вопрос NBC News. «Чтобы обеспечить общую доступность других возможностей уровня Mythos, мы решили внедрить меры безопасности, которые склоняются к осторожности, применяя на данный момент широкие ограничения к этим темам». Anthropic заявила, что двусторонний подход, перенаправляющий деликатные вопросы с Fable 5 на более старую версию Opus 4.8, позволит пользователям по-прежнему получать полезные ответы на вопросы, когда возможности Fable 5 могут оказаться слишком опасными. Anthropic сообщила, что до 22 июня Fable 5 будет доступна всем пользователям тарифных планов Pro, Max, Team и Enterprise без дополнительной платы. После этого пользователи смогут получить доступ к модели только путем покупки и использования дополнительных вычислительных кредитов. Компания Anthropic заявила, что намерена включить Fable 5 в стандартные тарифные планы «как можно скорее». В последнее время Anthropic с трудом справляется с растущим спросом на свои системы искусственного интеллекта, и Fable 5, вероятно, создаст дополнительную нагрузку на ее ограниченные вычислительные ресурсы. Anthropic также объявила, что надежные партнеры, которые ранее имели доступ к Mythos Preview, теперь смогут получить доступ к обновленной модели Mythos, получившей название Mythos 5. Компания предоставила доступ к Mythos Preview более чем 150 организациям по всему миру, чтобы помочь финансовым учреждениям, компаниям-разработчикам программного обеспечения и сетям здравоохранения устранить слабые места в своей киберзащите до более широкого публичного выпуска модели класса Mythos. Anthropic заявила, что возможности Mythos 5 побили существующие рекорды производительности в целом ряде других областей, включая разработку лекарств и молекулярную биологию. Anthropic заявила, что Mythos 5 является «первой моделью компании, которая последовательно генерирует новые, убедительные научные гипотезы». Выпуск модели во вторник произошел через неделю после того, как президент Дональд Трамп подписал новый указ, направленный на создание нового добровольного механизма, позволяющего компаниям, занимающимся искусственным интеллектом, делиться своими системами с правительством для тестирования на безопасность перед их публичным выпуском, а также укреплять собственную киберзащиту правительства. Anthropic сообщила, что Fable 5 была протестирована правительством перед выпуском, заявив NBC News, что на протяжении многих лет она предоставляла федеральному правительству ранний доступ ко всем своим моделям.