По словам бывшего сотрудника оборонного ведомства, проект Маска xAI был запоздалым дополнением к набору контрактов Пентагона на 200 миллионов долл., связанных с искусственным интеллектом.

Спорное включение xAI Элона Маска в ряд контрактов Министерства обороны на сумму до 200 миллионов долл. было запоздалым решением администрации Трампа, утверждает бывший сотрудник Пентагона. По словам Гленна Парэма, бывшего сотрудника Пентагона, работавшего на ранних этапах инициативы, контракты готовились несколько месяцев, а их планирование началось еще при администрации Байдена. По его словам, до того, как Пархэм в марте получил правительственный выкуп, планирование контрактов не включало xAI. Пархам был техническим руководителем генеративного искусственного интеллекта в Главном управлении цифровых технологий и искусственного интеллекта Пентагона и помогал вести переговоры о сделках и внедрять ИИ в инициативы Министерства обороны. «До моего ухода не было ни одного разговора с кем-либо из X или xAI», - говорит он. «Это возникло как бы из ниоткуда». На прошлой неделе Пентагон объявил о заключении контрактов с четырьмя компаниями: Anthropic, Google, OpenAI и xAI. Сумма каждого контракта составляет 2 миллиона долл. и 200 миллионов долл., а размер выплат зависит от результатов сотрудничества. (О контракте с OpenAI было объявлено в прошлом месяце.) Включение xAI Маска вызвало вопросы у экспертов по искусственному интеллекту. За несколько дней до этого объявления Грок, чатбот xAI, разразился антисемитской тирадой, которую компании с трудом удалось сдержать. Кроме того, компания запускает спорные анимированные ИИ-«компаньоны», которые могут быть сексуально навязчивыми и жестокими. Маск заявил, что объединил X и xAI в марте. Одним словом, у xAI не было той репутации и послужного списка, которые обычно приводят к выгодным правительственным контрактам, хотя Маск давно сотрудничал с правительством. Критики задавались вопросом, достаточно ли надежны модели xAI для работы в правительстве. В прошлый вторник лидер сенатского меньшинства Чак Шумер, округ Колумбия, назвал контракт «неправильным» и „опасным“, а также привел в пример антисемитский инцидент с компанией Grok, которая назвала себя «Меха-Гитлер». Он настаивал на том, что «администрация Трампа должна объяснить, как это произошло, каковы параметры сделки и почему они считают, что наша национальная безопасность не стоит того, чтобы соответствовать более высоким стандартам». По словам Пархэма, программа, которую называют партнерством между Министерством обороны и американскими технологическими компаниями, находящимися на переднем крае развития искусственного интеллекта, изначально была ориентирована на более известные фирмы, занимающиеся разработкой ИИ, включая OpenAI и Anthropic, которые, помимо того, что старше xAI, также имеют долгосрочные сделки с крупными фирмами, занимающимися облачными вычислениями, и налаженные связи с военными. Неясно, что побудило чиновников Пентагона добавить xAI к числу подрядчиков с марта. Главное управление цифровых технологий и искусственного интеллекта министерства, объявившее о заключении контрактов, не ответило на письменные вопросы о том, почему оно выбрало xAI, но в заявлении Пентагона говорится, что эпизод с антисемитизмом не был достаточным основанием для дисквалификации этой компании. «Несколько передовых моделей ИИ дали сомнительные результаты в ходе их разработки, и министерство будет управлять рисками, связанными с этой новой технологической областью, на протяжении всего процесса создания прототипов», - говорится в заявлении министерства обороны, опубликованном в пятницу на сайте NBC News. «Эти риски не оправдывают исключения использования этих возможностей в рамках усилий DoD по созданию прототипов», - говорится в заявлении. В министерстве заявили, что «передовые модели ИИ» по своей природе находятся на переднем крае и поэтому предлагают как возможности, так и риски. xAI не ответила на просьбы о комментарии в пятницу и понедельник. Привлечение xAI добавляет еще одну морщинку в сложные отношения Маска с федеральным правительством. Еще до того, как Маск стал советником президента Дональда Трампа в Белом доме в этом году, его бизнес-империя уже имела глубокие связи в правительстве, включая контракты для ракетной компании Маска, SpaceX. В настоящее время Маск и Трамп находятся в состоянии постоянной вражды, и Маск поклялся создать третью политическую партию, нацеленную на сокращение федерального долга. Он повторил эту клятву 6 июля, но, похоже, не предпринял конкретных публичных шагов по ее созданию. В ходе спора Трамп пригрозил Маску правительственными контрактами. Некоторые эксперты заявили, что понимают, почему Министерство обороны может захотеть привлечь xAI в качестве партнера, несмотря на ее недостатки. «Я думаю, что департаменту выгодно взаимодействовать с как можно большим количеством организаций», - сказал Морган Пламмер, директор по политике организации «Американцы за ответственные инновации», группы по защите интересов, которая в целом выступает за «золотую середину» в регулировании ИИ. Пархам сказал, что идея программы стоимостью 800 миллионов долл. возникла еще до администрации Трампа и что работа над ней началась в октябре, после того как президент Джо Байден издал указ об ИИ и национальной безопасности. Он сказал, что работал над ней около пяти месяцев до своего ухода и что в общей сложности он провел почти три года в Министерстве обороны, занимаясь вопросами ИИ. Контракты с четырьмя компаниями, занимающимися разработкой ИИ, также значительно углубляют отношения военных с самыми оживленными из новых технологий. В обмен на миллионы долларов военные получат в свое распоряжение большую языковую модель (LLM) каждой компании, которая для многих пользователей часто принимает форму чат-бота. По словам экспертов, военные будут использовать LLM для самых разных целей, от рутинных задач вроде обобщения электронных писем до более сложных, таких как перевод языков или анализ интеллекта. Среди других проектов в области ИИ, инициированных Министерством обороны, - Project Maven, система, объединяющая большое количество данных и источников данных с машинным обучением для отображения и использования во время конфликта. В индустрии ИИ возможности xAI вызывают жаркие споры. Grok получил высокие оценки по некоторым показателям искусственного интеллекта, например, по показателю «Последний экзамен человечества», который состоит из вопросов, присланных экспертами по предметам. Но его недавняя связь с неонацизмом - а до этого с расовыми отношениями в родной для Маска Южной Африке - сделала чатбота объектом насмешек в индустрии и среди широкой общественности. "Grok, вероятно, наименее безопасная из этих систем. Он делает очень странные вещи", - сказал критик ИИ Гэри Маркус, заслуженный профессор психологии Нью-Йоркского университета. Маркус отметил идеологические диатрибы Grok и решение xAI не публиковать отчеты о безопасности, которые стали отраслевыми стандартами для ведущих моделей ИИ. Пархам сказал, что, по его мнению, xAI может потребоваться больше времени, чем трем другим подрядчикам Пентагона, чтобы ее технология была полностью доступна для военных. По его словам, другие компании, включая Anthropic и OpenAI, уже прошли через длительный процесс правительственной проверки и соответствия, чтобы их программное обеспечение - включая интерфейсы прикладного программирования, которые кодеры используют для создания поверх LLM - было разрешено к использованию. По его словам, до марта, когда он ушел, xAI не сделала того же самого. «Думаю, им потребуется гораздо больше времени, чтобы [внедрить] свои модели в правительственную среду», - сказал он. "Это не невозможно. Просто они сильно, сильно, сильно, сильно отстают от всех остальных". По словам Парэма, процесс получения разрешения для Anthropic и OpenAI занял более года с момента подачи документов до получения разрешения. Использование Пентагоном коммерческих LLM вызвало критику, в частности потому, что модели ИИ обычно обучаются на огромных массивах данных, которые могут включать личную информацию в открытом Интернете. Смешивать такую информацию с военными приложениями слишком рискованно, считает Сара Майерс Уэст, соисполнительный директор исследовательской организации AI Now Institute. «Это создает уязвимости в области безопасности и конфиденциальности в нашей критической инфраструктуре», - сказала она. xAI - относительно молодой стартап. Маск основал ее в 2023 году после того, как за несколько лет до этого стал одним из основателей OpenAI, а затем рассорился с ее генеральным директором Сэмом Альтманом. Некоторые эксперты в области ИИ и оборонных систем заявили, что были потрясены недавним антисемитским крахом Grok, и задались вопросом, может ли подобное повториться в рамках правительственного использования. «У меня возникли бы некоторые опасения, связанные с безопасностью, исходя из выпуска их последней модели», - сказал Джош Уоллин, который исследует пересечение ИИ и военного дела в Центре новой американской безопасности, аналитическом центре демократической ориентации. По словам Уоллина, антисемитские тирады Грока демонстрируют возможность непредсказуемого или рискованного поведения, например, представления ложной или вводящей в заблуждение информации как факта, что называется галлюцинациями. "Допустим, вы автоматически генерируете отчеты из различных источников разведданных или составляете ежедневный отчет для командира. Возникнут сомнения, не является ли то, что вы получаете, галлюцинацией", - сказал он.