Трамп запрещает использование Anthropic в государственных учреждениях

После нескольких месяцев все более острой риторики между Министерством обороны и ведущей компанией в области искусственного интеллекта Anthropic по поводу использования ее систем в военных целях, президент Дональд Трамп объявил в пятницу днем, что запрещает федеральным агентствам использовать услуги Anthropic. «Я даю указание ВСЕМ федеральным агентствам правительства США НЕМЕДЛЕННО ПРЕКРАТИТЬ любое использование технологий Anthropic. Нам это не нужно, мы этого не хотим и больше не будем с ними сотрудничать!» — написал Трамп в посте на Truth Social. Anthropic не ответила сразу на запрос о комментарии. Компания, возглавляемая генеральным директором Дарио Амодеи, в ходе многомесячных переговоров с Пентагоном о заключении контракта четко дала понять, что не позволит использовать свои системы искусственного интеллекта для внутреннего наблюдения или непосредственного применения в смертоносных автономных вооружениях. Пентагон настаивает на том, что ему должно быть разрешено использовать свои системы искусственного интеллекта для «любого законного использования», что может нарушать красные линии Anthropic. «Я глубоко верю в экзистенциальную важность использования искусственного интеллекта для защиты Соединенных Штатов и других демократических стран», — написал Амодей в заявлении в четверг вечером, но «использование этих систем для массовой внутренней слежки несовместимо с демократическими ценностями». Амодей добавил, что «сегодня передовые системы искусственного интеллекта просто не достаточно надежны, чтобы питать полностью автономное оружие». В серии твитов в четверг вечером заместитель министра обороны Эмиль Майкл написал в X, что Амодей «лжец и страдает комплексом Бога». Он хочет только одного — лично контролировать вооруженные силы США и не видит ничего плохого в том, чтобы подвергать риску безопасность нашей страны». Ранее в четверг главный пресс-секретарь Пентагона Шон Парнелл написал в X, что желание Пентагона использовать модель Anthropic для всех законных целей «является простым и разумным требованием, которое не позволит Anthropic поставить под угрозу важные военные операции». В настоящее время Anthropic имеет контракт с Пентагоном на сумму до 200 миллионов долл. на «продвижение ответственного использования ИИ в оборонных операциях» и сотрудничает с компанией Palantir, занимающейся аналитикой данных, для предоставления своих услуг в области ИИ в секретных оборонных и разведывательных сетях. В течение пятницы все больше законодателей призывали стороны деэскалировать конфликт и прийти к мирному решению, что контрастировало с относительным молчанием со стороны Anthropic и Пентагона в часы, предшествовавшие истечению срока. В письме министру обороны Питу Хегсету, обнародованном в пятницу днем, сенаторы Эд Марки (демократ от Массачусетса) и Крис Ван Холлен (демократ от Мэриленда) заявили, что «угрозы Пентагона наказать американскую компанию, занимающуюся искусственным интеллектом, за отказ отказаться от основных мер безопасности при использовании своей модели искусственного интеллекта, представляют собой пугающее злоупотребление властью со стороны правительства». В письме, опубликованном в пятницу утром, член Палаты представителей Джордж Уайтсайдс (Демократическая партия, Калифорния) сообщил Хегсету, что он «обеспокоен тем, что ваши угрозы принудить к ускоренному изменению политики безопасности могут подтолкнуть министерство к более широкому внедрению без достаточных мер предосторожности». В отличие от многих основных оборонных технологий, современные передовые системы искусственного интеллекта разрабатываются в основном в частном секторе такими компаниями, как Anthropic, OpenAI и Google. Растущие возможности этих систем вынудили Пентагон вести переговоры с Anthropic о правилах их использования или выбирать менее проверенные услуги. До этой недели Anthropic была единственной ведущей компанией в области искусственного интеллекта, которая получила разрешение на предоставление услуг в секретных сетях. В меморандуме, отправленном сотрудникам в четверг вечером и просмотренном NBC News, генеральный директор OpenAI Сэм Альтман заявил, что его компания в значительной степени последовала бы подходу Anthropic, если бы оказалась в такой же ситуации с Пентагоном. «Мы давно считаем, что ИИ не должен использоваться для массовой слежки или автономного смертоносного оружия, и что люди должны оставаться в курсе дел при принятии автоматизированных решений с высокими ставками. Это наши основные красные линии», — написал он. Альтман добавил, что «это уже не просто проблема между Anthropic и Министерством обороны; это проблема для всей отрасли, и важно четко обозначить нашу позицию». Неясно, как отреагируют другие ведущие компании в области искусственного интеллекта. Google, Meta и xAI не ответили на запрос о комментарии.