Пентагон заключил соглашение с Google о предоставлении услуг в области искусственного интеллекта

По словам американского чиновника, знакомого с деталями сделки, Пентагон и Google достигли соглашения, в соответствии с которым Министерство обороны сможет использовать мощные системы искусственного интеллекта Gemini, разработанные этой технологической компанией, в сетях с ограниченным доступом. Чиновник высказался на условиях анонимности, поскольку не был уполномочен раскрывать подробности соглашения. Точное содержание и детали нового контракта остаются неясными. Сделка следует за аналогичными соглашениями с другими ведущими компаниями в области искусственного интеллекта, включая OpenAI и xAI. Министр обороны Пит Хегсет сделал внедрение искусственного интеллекта главным приоритетом для вооруженных сил, пообещав превратить армию в «боевую силу, ориентированную в первую очередь на искусственный интеллект». Представитель Google не ответил на конкретные вопросы о сделке, о которой впервые сообщило технологическое новостное агентство The Information. «Мы гордимся тем, что являемся частью широкого консорциума ведущих лабораторий ИИ, а также технологических и облачных компаний, предоставляющих услуги и инфраструктуру ИИ в поддержку национальной безопасности», — заявила представитель Google Кейт Дрейер в электронном письме NBC News. «Мы по-прежнему привержены консенсусу частного и государственного секторов о том, что ИИ не должен использоваться для массовой слежки внутри страны или в автономном оружии без надлежащего контроля со стороны человека». Министерство обороны активно внедряло ИИ в течение последнего десятилетия, используя автоматизированные системы для всего: от анализа видеозаписей с дронов в борьбе с группировкой «Исламское государство» до оптимизации логистики и устранения несоответствий в оплате труда солдат. В настоящее время компания использует ИИ для анализа разведывательной информации и оказания поддержки в определении целей в ходе военных действий с Ираном. Майкл Хоровиц, бывший высокопоставленный чиновник в сфере обороны и нынешний профессор Пенсильванского университета, заявил, что соглашение «об использовании моделей ИИ Google в секретных целях свидетельствует о растущей важности ИИ для национальной безопасности США». Однако Хоровиц отметил, что системы ИИ Google уже используются в несекретных системах, поэтому «неудивительно, что они пришли к соглашению о секретном использовании». В течение последних нескольких месяцев Пентагон стремился заключить новые контракты с четырьмя крупнейшими американскими компаниями в сфере ИИ, включив в них формулировку, разрешающую «любое законное использование» их систем ИИ. В июле Пентагон объявил о заключении первоначальных, предварительных контрактов с Google, OpenAI, Anthropic и xAI. Эти шаги вызвали некоторую полемику, в первую очередь в отношении Anthropic. Компания, возглавляемая генеральным директором Дарио Амодеи, добивалась от Пентагона более твердых гарантий того, что он не будет использовать модели искусственного интеллекта компании для массовой слежки внутри страны или прямого управления смертоносным автономным оружием. Неясно, добивался ли Google каких-либо подобных гарантий. Американский чиновник, который разговаривал с NBC News, сказал, что соглашение с Google охватывает законное использование со стороны Министерства обороны. Хотя Google избежала публичной ссоры с Пентагоном, она столкнулась с некоторым сопротивлением со стороны своих собственных сотрудников. В понедельник агентство Bloomberg News сообщило, что около 600 сотрудников Google направили письмо генеральному директору Сундару Пичаи с призывом отказаться от новых партнерских соглашений с Пентагоном в сфере искусственного интеллекта. Это не первый случай, когда Google сталкивается с недовольством сотрудников в связи со своим сотрудничеством с военными. В 2018 году тысячи сотрудников Google протестовали против участия компании в секретной программе Пентагона под названием «Проект Мейвен». Проект Maven, реализуемый в партнерстве с компанией Palantir, занимающейся аналитикой данных, остается одной из ведущих программ Министерства обороны в области искусственного интеллекта. В связи с противодействием сотрудников Google приняла решение не продлевать контракт по проекту Maven. Пичаи заявил тогда, что компания не будет заниматься разработкой приложений искусственного интеллекта «для слежки, нарушающей международно признанные нормы», или для оружия, главная цель которого «заключается в нанесении вреда людям или непосредственном содействии этому». Использование ИИ правительством для внутренней слежки и прямого управления смертоносным автоматическим оружием стало предметом особого внимания как в самой индустрии ИИ, так и среди групп гражданского общества, хотя это мало повлияло на темпы внедрения таких технологий правительством или на стремление технологических гигантов заключать соответствующие соглашения. Эти опасения вылились в публичную полемику в начале этого года. В конце февраля в своем блоге, где были обозначены эти две «красные линии», генеральный директор Anthropic Амодей написал, что «в ограниченном числе случаев мы считаем, что ИИ может подрывать, а не защищать демократические ценности». «Некоторые виды применения просто выходят за рамки того, что современные технологии способны обеспечить безопасно и надежно». После того как Хегсет поставил компании Anthropic ультиматум, потребовав выполнить пожелания Пентагона, позволяющие использовать ИИ в любых законных целях — что может выходить за рамки одобренных Anthropic сфер применения, — он объявил Anthropic «угрозой национальной безопасности в цепочке поставок», а такое обозначение обычно применяется к иностранным противникам. Министерство обороны заявило, что в ближайшие месяцы оно намерено сократить использование моделей Anthropic. Президент Дональд Трамп также объявил в конце февраля, что он запретит всем федеральным агентствам использовать продукты Anthropic, назвав Anthropic группой «левых сумасбродов». Anthropic подала в суд на Министерство обороны и соответствующие федеральные агентства, чтобы отменить эти решения. Дело рассматривается одновременно в Калифорнии, где судья вынес предварительное постановление о приостановке удаления систем Anthropic, и в Вашингтоне, округ Колумбия, где суд решил не выносить аналогичного судебного запрета. Вскоре после того, как Anthropic была объявлена угрозой национальной безопасности, OpenAI объявила, что заключила аналогичную сделку с Пентагоном о внедрении своих моделей ИИ в секретные сети Министерства обороны. Однако это объявление вызвало общественный резонанс из-за предполагаемого отсутствия ограничений на потенциальное использование систем OpenAI Пентагоном, особенно в отношении слежения за американцами. В результате OpenAI и генеральный директор Сэм Альтман всего через несколько дней переработали формулировку соглашения, и в обновленной версии было оговорено, что любые услуги OpenAI «не должны преднамеренно использоваться для внутренней слежки за гражданами и резидентами США». Брайан МакГрейл, старший юрисконсульт Центра по безопасности ИИ, заявил в марте, что спецслужбы и агентства национальной безопасности часто очень свободно толкуют положения контрактов, касающиеся слежения. МакГрейл отметил, что, поскольку эти контракты остаются конфиденциальными, зачастую сложно оценить надежность запретов на внутреннее слежение.