OpenAI запускает постоянно работающих ИИ-агентов на следующий день после того, как принесла извинения за взлом, совершенный её ботами

САН-ФРАНЦИСКО — Ведущая компания в области искусственного интеллекта OpenAI во вторник, в безоблачный день в Сан-Франциско, попыталась преодолеть бурю споров, представив новую линейку продуктов и инструментов, которые, по ее утверждению, предоставят пользователям возможности автономных помощников. Приняв около 2 500 инженеров-программистов и энтузиастов ИИ на пристани у океана в рамках крупнейшего в истории компании мероприятия для технических разработчиков, OpenAI представила несколько новых продуктов, при этом воздержавшись от демонстрации своей самой передовой системы из соображений безопасности. Генеральный директор OpenAI Сэм Альтман открыл мероприятие, представив Dots — автономные системы искусственного интеллекта, или ИИ-агенты, которые непрерывно работают, выполняя задачи от имени пользователей. «Это как помощник с ИИ, который всегда прикроет вас», — сказал Альтман, заявив, что Dots позволили ему делегировать задачи и освободить часть своего внимания для других важных дел. «Я больше не чувствую такой же зависимости от своего телефона, как раньше. Именно так я всегда хотел работать с ИИ», — сказал он. В OpenAI заявили, что Dots могут выполнять «практически всё», используя собственный облачный компьютер, веб-браузер и подключения к более чем 4 000 приложений, которые уже работают с ChatGPT, таких как Slack или Google Drive. Поражённая присущим Кремниевой долине законом Мерфи, вступительная речь сопровождалась целой серией технических неполадок. Ромен Хюэ, руководитель отдела по работе с разработчиками в OpenAI, столкнулся с проблемами при попытке продемонстрировать возможность пользователей управлять Dots с помощью голосовых команд. «Голосовой чат не запустился», — гласила надпись на экране главной сцены, обращённая к аудитории. «Думаю, у Dottie сегодня утро как-то не очень складывается», — сказала Холли Ли, одна из руководителей продуктовой команды OpenAI, имея в виду своего помощника Dot, который не ответил на один из её запросов в режиме реального времени с просьбой проинформировать её о ходе работы команды. Несмотря на эту небольшую заминку, Ли отметила, что устройства Dot уже изменили подход сотрудников OpenAI к выполнению своей работы. «Люди начали относиться к своим Dot как к своим представителям, и теперь мы с самого начала подключаем наших Dot к групповым чатам», — сказала она во время утренней основной сессии. В течение дня прошла серия мероприятий и технических демонстраций, в ходе которых пользователи могли услышать от отраслевых экспертов о новых ценовых моделях и настройках агентов, в то время как группа из примерно 50 протестующих у здания компании громко выражала недовольство военными и государственными контрактами компании. «Люди важнее миллиардеров», — гласил ярко-оранжевый баннер, когда участники входили в здание на берегу океана, чтобы познакомиться с пушистыми оранжевыми «Дотами». Над мероприятием витали вопросы доверия и безопасности. Вечером накануне презентации новых продуктов OpenAI принесла извинения за взлом веб-сайта правительства Австралии, совершенный её агентами. «Мы сожалеем и работаем над тем, чтобы в будущем действовать лучше», — заявила компания в сообщении в блоге. Инцидент, произошедший в июне, был связан с разрабатываемой внутренней моделью, которая получила доступ к закрытой информации, касающейся программы государственного медицинского страхования Австралии. Во вторник Альтман и руководство OpenAI подчеркнули, что этот случай — как и другие серьезные инциденты, когда системы OpenAI выходили из-под контроля или действовали непреднамеренным образом — касались моделей, не предназначенных для публичного выпуска и отличающихся от коммерческих продуктов, доступных пользователям. «В случаях, о которых мы сообщили, использовались модели, предназначенные исключительно для внутреннего использования, которые не планировалось выпускать», — сказал Алекс Эмберикос, руководитель отдела продуктов в OpenAI. Несмотря на это различие, Альтман отметил, что существует компромисс между расширением границ развития ИИ и безопасным созданием передовых систем искусственного интеллекта. «Чтобы вывести модели на новый уровень возможностей, нам понадобится некоторое время, чтобы понять, как обеспечить, чтобы согласованность, мониторинг, безопасность и защита значительно опережали возможности», — сказал Альтман журналистам после своего основного выступления. «Но вы можете видеть, что мы смогли создать огромное количество полезных новинок без крупной новой модели, и новые модели появятся», — добавил он. В понедельник OpenAI объявила, что воздержится от выпуска своей новейшей модели GPT-6.1 Astra из-за опасений, что система не следует инструкциям человека. «Хотя [GPT-6.1 Astra] продемонстрировала улучшение по таким показателям, как «ленивость» модели, она не совсем соответствовала требованиям в плане соблюдения рамок задачи и разрешений», — заявил в своем заявлении руководитель отдела систем безопасности Саачи Джейн. Руководство OpenAI также признало, что новые продукты компании потребуют значительных вычислительных ресурсов, при этом Альтман отнес Dots к категории «продуктов премиум-класса». Альтман заявил, что компания надеется в будущем выпустить версию Dots для массового рынка, объяснив поэтапный запуск высокой вычислительной нагрузкой. В настоящее время Dots доступен только пользователям, подписавшимся на тарифный план OpenAI Pro, стоимость которого составляет от 100 до 500 долл. в месяц, а также пользователям Business Premium и некоторым пользователям Enterprise. Кроме того, Dots пока недоступен в Европе и Великобритании, что, по словам Альтмана, обусловлено строгими нормативными требованиями в этих регионах. «У нас отличный опыт запуска наших продуктов в ЕС, но там действует процедура, которая занимает больше времени, а иногда и непредсказуемо дольше», — сказал Альтман в интервью NBC News. «Но мы действительно хотим предоставить все наши продукты европейцам». Альтман представил Dots через несколько недель после того, как Meta выпустила серию ИИ-агентов Muse, позиционируемых создателем Facebook и Instagram как «ваш личный агент». Приложение Muse взлетело на первое место в магазинах приложений Apple и Android, быстро обогнав агентский ИИ Grok Bot от компании xAI Илона Маска. OpenAI также представила новую модель — GPT-6.1 Sol, которая, по заявлению компании, по производительности практически не уступает флагманской модели Astra, при этом стоить будет в разы дешевле. Кроме того, компания объявила об усовершенствованных протоколах конфиденциальности и о создании нового пространства для совместной работы, где пользователи смогут взаимодействовать с системами компании — оно получило меткое название «ChatGPT Space». В то время как Альтман и сотрудники OpenAI продвигали свои новые продукты, в другой части страны президент OpenAI Грег Брокман встречался с президентом Дональдом Трампом и десятками лидеров технологического сектора, чтобы наметить амбициозную концепцию развития ИИ. Президент Трамп воспользовался этой возможностью, чтобы «открыть эру сверхразума». Альтман выразил надежду, что встреча в Вашингтоне позволит гигантам ИИ достичь консенсуса по поводу рисков, связанных с ИИ, и в то же время даст обществу возможность воспользоваться потенциальными преимуществами этой технологии. Альтман заявил, что не согласен с лидерами отрасли, которые отказываются признавать, что ИИ может представлять значительные риски — «можно представить себе вполне реальную аварию, связанную с потерей контроля над ИИ, потому что мы не относимся к безопасности и защите достаточно серьезно» — при этом он дистанцировался от утверждений о том, что ИИ может уничтожить все человечество в течение нескольких лет. «Я надеюсь, что в этой отрасли мы сможем объединиться и сказать, что нам нужно найти золотую середину между этими двумя крайностями», — сказал он.