Anthropic предложила Пентагону возможность использовать системы искусственного интеллекта для противоракетной обороны

В ходе переговоров по контракту между высокопоставленными чиновниками Министерства обороны и руководителями гиганта в области искусственного интеллекта Anthropic в декабре компания согласилась разрешить правительству США использовать свои системы искусственного интеллекта для целей противоракетной и кибернетической обороны, сообщил источник, знакомый с ситуацией, пожелавший остаться анонимным, чтобы говорить о частных переговорах. Но это, по-видимому, не удовлетворило Пентагон. После нескольких недель напряженности между Министерством обороны и Anthropic по поводу ограничений, наложенных компанией на использование ее продуктов военными, министр обороны Пит Хегсет выдвинул во вторник жесткий ультиматум генеральному директору компании Дарио Амодеи: разрешить использование технологии искусственного интеллекта для всех законных военных целей до пятницы или быть вынужденным сотрудничать, сообщил NBC News высокопоставленный чиновник Пентагона. Ультиматум, о котором NBC News рассказал высокопоставленный чиновник Пентагона, был выдвинут в то время, когда компания Anthropic, которая активно рекламирует свою ориентацию на безопасность ИИ, пытается сохранить жесткую политику, не допускающую использования ее систем для массовой внутренней слежки или прямого использования в смертоносных автономных вооружениях. Согласно информации источника, знакомого с ситуацией, изменения в контракте, внесенные в декабре, позволят широко использовать системы компании для киберзащиты и противоракетной обороны. Представитель Anthropic заявил NBC News в своем заявлении: «Каждая итерация предлагаемого нами текста контракта позволит нашим моделям поддерживать противоракетную оборону и аналогичные виды использования». Однако настойчивое требование компании о введении ограничений по-прежнему является предметом спора между Anthropic и Министерством обороны. По словам высокопоставленного чиновника Пентагона, представители министерства, в том числе заместитель министра обороны Эмиль Майкл, недавно обсудили с руководством Anthropic несколько гипотетических сценариев использования продуктов компании в военных целях. В рамках этих переговоров чиновники обсудили, как системы Anthropic могут быть использованы в случае запуска противником межконтинентальной баллистической ракеты по США. По словам источника в Пентагоне, чиновники обсудили, могут ли ограничения Anthropic каким-либо образом помешать США ответить на запуск. По словам официального представителя, руководство Anthropic заявило, что может быть вынуждено снять эти ограничения, но руководство Пентагона не было полностью удовлетворено корректировками Anthropic и не хотело быть зависимым от частной компании. По словам представителя Anthropic, любые предположения о том, что Амодей заявил, что Пентагон будет вынужден обращаться к компании при каждой операции по противоракетной обороне, являются «явно ложными». По словам высокопоставленного чиновника Пентагона, в ходе последней эскалации переговоров во вторник руководство Пентагона заявило, что может применить Закон о военном производстве, чтобы заставить Anthropic соблюдать правила Пентагона. Этот закон позволяет президенту контролировать отечественные компании, имеющие критическое значение для национальной безопасности, в случае необходимости. На встрече во вторник руководство Пентагона также прибегло к угрозам, заявив, что в противном случае Anthropic будет признана «риском для цепочки поставок» и будет запрещено вести с ней любой оборонный бизнес, если она не согласует с Пентагоном условия предоставления услуг для определенных видов использования с высокими рисками до пятницы, сообщил источник. «Anthropic имеет время до 17:01 пятницы, чтобы согласиться с требованиями Министерства войны», — сказал высокопоставленный чиновник Пентагона в заявлении, предоставленном NBC News в ответ на вопросы о встрече. «Если они не согласятся, министр войны обеспечит применение Закона о военном производстве к Anthropic, что заставит их работать с Пентагоном». «Кроме того, министр войны также обозначит Anthropic как риск для цепочки поставок», — сказал чиновник. Отвечая на вопрос о встрече во вторник, представитель Anthropic заявил: «Дарио выразил признательность за работу министерства и поблагодарил министра за его службу». Мы продолжили добросовестные переговоры о нашей политике использования, чтобы обеспечить возможность Anthropic и в дальнейшем поддерживать миссию правительства по обеспечению национальной безопасности в соответствии с тем, что наши модели могут делать надежно и ответственно». Хегсет похвалил продукты Anthropic и сказал, что Пентагон хочет работать с компанией, по словам другого человека, знакомого с ходом встречи, который пожелал остаться анонимным, чтобы говорить откровенно. Этот человек подтвердил, что министерство заявило, что прекратит сотрудничество Anthropic с Пентагоном к пятнице, если компания не согласится с его условиями. Согласно сообщениям The Wall Street Journal и Axios, системы Claude от Anthropic были использованы во время операции по захвату президента Венесуэлы Николаса Мадуро в январе. Неясно, как именно были использованы эти системы. 9 января Хегсет отправил высокопоставленным офицерам Пентагона меморандум, в котором объявил о стремлении Пентагона создать «военные силы, ориентированные на ИИ». Он изложил план по использованию моделей ИИ, таких как Anthropic, для всех законных военных целей, «свободных от ограничений политики использования», установленных отдельными компаниями, занимающимися ИИ. Anthropic — единственная компания, занимающаяся искусственным интеллектом, чьи продукты активно используются в секретных сетях благодаря контракту с Palantir, компанией, занимающейся аналитикой данных. Высокопоставленный чиновник Пентагона подтвердил NBC News, что xAI достигла в понедельник соглашения с Пентагоном об использовании своей системы чат-ботов Grok в секретных сетях, согласившись разрешить использование своих систем для «любого законного применения», как того желал Хегсет. Anthropic была одной из четырех компаний, занимающихся искусственным интеллектом (другими были OpenAI, Google DeepMind и xAI), которые в июле получили контракты на сумму до 200 миллионов долл. на «создание прототипов передовых возможностей искусственного интеллекта, способствующих укреплению национальной безопасности США».