Источники сообщают, что американские военные используют искусственный интеллект для планирования воздушных ударов по Ирану, а законодатели призывают к усилению контроля

В то время как американские военные расширяют использование инструментов искусственного интеллекта для определения целей для авиаударов в Иране, члены Конгресса призывают к введению ограничений и усилению контроля за использованием этой технологии в военных действиях. Два человека, знакомые с ситуацией, которые пожелали остаться анонимными, чтобы обсудить деликатные вопросы, подтвердили, что военные используют системы искусственного интеллекта компании Palantir, занимающейся аналитикой данных, для определения потенциальных целей в ходе продолжающихся атак. Использование программного обеспечения Palantir, которое частично основано на системах искусственного интеллекта Claude от Anthropic, происходит в то время, когда министр обороны Пит Хегсет стремится поставить искусственный интеллект в центр боевых операций США — и когда он вступил в конфликт с руководством Anthropic по поводу ограничений на использование ИИ. Однако по мере того, как ИИ играет все более важную роль на поле боя, законодатели требуют уделять больше внимания мерам защиты, которые должны регулировать его использование, и повышать прозрачность в отношении того, насколько контроль передается этой технологии. «Нам нужен полный и беспристрастный анализ, чтобы определить, нанес ли ИИ ущерб или поставил под угрозу жизни людей в войне с Ираном», — заявила NBC News член Комитета по вооруженным силам Палаты представителей Джилл Токуда (Демократическая партия, Гавайи) в ответ на вопросы об использовании и надежности ИИ в военных условиях. «Человеческое суждение должно оставаться в центре решений, от которых зависит жизнь или смерть». Министерство обороны и ведущие компании в области ИИ, такие как OpenAI и Anthropic, публично заявили, что нынешние системы ИИ не должны иметь возможность убивать без одобрения человека. Однако остается опасение, что использование ИИ для части операций или принятия решений может привести к ошибкам в военных операциях. Главный пресс-секретарь Пентагона Шон Парнелл заявил в своем посте на X 26 февраля, что военные «не хотят использовать ИИ для разработки автономного оружия, которое работает без участия человека». Министерство обороны не ответило на вопросы о том, как военные балансируют использование ИИ для снижения нагрузки на людей и одновременно проверяют точность анализа и предложений по целевым объектам. Законодатели и независимые эксперты, с которыми пообщалось NBC News, выразили тревогу по поводу использования военными таких инструментов и призвали к введению четких мер безопасности, чтобы люди по-прежнему участвовали в принятии решений о жизни и смерти на поле боя. «Инструменты ИИ не являются надежными на 100% — они могут давать сбои незаметным образом, но операторы продолжают чрезмерно доверять им», — сказала Сара Джейкобс, член Комитета по вооруженным силам Палаты представителей от Калифорнии. «Мы несем ответственность за обеспечение строгих ограничений на использование ИИ военными и гарантию того, что человек будет участвовать в каждом решении об использовании смертоносной силы, потому что цена ошибки может быть разрушительной для гражданских лиц и военнослужащих, выполняющих эти миссии», — сказала она. Claude от Anthropic стал важным компонентом программы анализа разведданных Maven от Palantir, которая также использовалась в операции США по захвату президента Венесуэлы Николаса Мадуро. Новости о роли Клода в недавних военных действиях впервые появились в The Wall Street Journal и The Washington Post. Но эта роль осложнилась из-за конфликта Anthropic с Хегсетом после того, как компания попыталась помешать военным использовать свой ИИ для внутреннего наблюдения и создания автономного смертоносного оружия. На прошлой неделе Министерство обороны США назвало Anthropic угрозой национальной безопасности, что грозит исключением компании из военного использования в ближайшие месяцы. Anthropic подала иск, чтобы оспорить это решение. Anthropic отказалась от комментариев. Palantir не ответила на запрос о комментарии. В видео, опубликованном в среду на X, адмирал Брэд Купер, руководитель Центрального командования США, признал, что ИИ стал ключевым инструментом, помогающим США выбирать цели в Иране. «Наши военные используют различные передовые инструменты ИИ. Эти системы помогают нам за секунды просеивать огромные объемы данных, чтобы наши лидеры могли отсеять лишнюю информацию и принимать более разумные решения быстрее, чем враг может отреагировать», — сказал он. «Люди всегда будут принимать окончательные решения о том, что стрелять, а что нет, и когда стрелять, но передовые инструменты ИИ могут превратить процессы, которые раньше занимали часы, а иногда даже дни, в секунды». Администрация Трампа публично поддержала использование этой технологии как в военных целях, так и во всех государственных структурах. Конгрессмен Пэт Харриган, республиканец из Северной Каролины, заявил, что ИИ уже стал крайне важным инструментом для быстрой обработки военной разведки, в том числе в Иране. «ИИ — это инструмент, который помогает нашим военным обрабатывать огромные объемы данных быстрее, чем это может сделать любой человек в одиночку, и то, что мы видели в ходе операции Epic Fury, когда более 2000 целей были поражены с поразительной точностью, свидетельствует о том, как эти возможности могут быть использованы ответственно и эффективно», — заявил Харриган, который также является членом Комитета по вооруженным силам Палаты представителей, в заявлении для NBC News. «Но никакая система ИИ не заменит суждения, подготовку и опыт американских военнослужащих. Участие человека в процессе — это не формальность, а необходимость, и ничто в деятельности наших вооруженных сил не указывает на обратное», — сказал он. Хотя ни один из законодателей, с которыми связались NBC News, не сказал, что ИИ следует полностью исключить из военного использования, некоторые заявили, что необходим более тщательный контроль. Сенатор Элисса Слоткин, демократ от штата Мичиган, член Комитета Сената по вооруженным силам, заявила, что Министерство обороны не сделало достаточно для того, чтобы прояснить, насколько хорошо люди проверяют военную разведку, полученную с помощью ИИ или сгенерированную ИИ. «На самом деле именно люди, а в данном случае министр обороны, должны обеспечить наличие человеческого резерва в обозримом будущем, и именно в этом мы просто не уверены», — сказала она. Сенатор Марк Уорнер, демократ из Вирджинии, ведущий демократ в Сенатском комитете по разведке, заявил, что он обеспокоен использованием военными ИИ для помощи в определении целей и что остаются нерешенные вопросы о том, как используется новая технология. «Этот вопрос необходимо решить», — сказал он NBC News. OpenAI и Anthropic, обе компании работавшие с вооруженными силами США, заявили, что даже их самые передовые системы подвержены ошибкам, а ведущие мировые исследователи в области ИИ признают, что не до конца понимают, как работают передовые системы ИИ. В интервью NBC в прошлом месяце генеральный директор Anthropic Дарио Амодей сказал: «Я не могу сказать, что даже системы, которые мы создаем, на 100 % надежны». » Крупное исследование OpenAI, опубликованное в сентябре, показало, что все основные чат-боты ИИ, которые полагаются на системы, называемые большими языковыми моделями, «галлюцинируют» или периодически выдумывают ответы. Сенатор Кирстен Гиллибранд, демократ из Нью-Йорка, призвала к установлению более четких правил использования ИИ военными. «Администрация Трампа уже доказала, что готова нарушать американское законодательство, чтобы вести непопулярную войну», — сказала она NBC News. «Есть мало оснований полагать, что Министерство обороны будет более ответственно подходить к использованию ИИ без явных мер безопасности». Марк Билл, глава отдела по связям с государственными органами в AI Policy Network, аналитическом центре в Вашингтоне, и директор по стратегии и политике в области ИИ в Пентагоне с 2018 по 2020 год, сказал, что хотя ИИ может оптимизировать процесс принятия решений о том, куда наносить удары, очевидно, что люди по-прежнему должны тщательно проверять цели. «Прежде чем нажать на курок, необходимо пройти много этапов. Системы ИИ очень эффективно используются для ускорения существующих рабочих процессов и предоставления командирам, аналитикам и планировщикам возможности принимать более качественные и быстрые решения», — добавил он. «Но когда дело доходит до фактического развертывания систем вооружения, эта технология еще не готова». «Эти системы станут действительно очень хорошими, и когда другие противники начнут их использовать, будет усиливаться давление с целью сократить время проверки результатов работы ИИ, чтобы обеспечить полезную и эффективную скорость работы», — сказал Билл. «Мы должны выяснить, как решить эту проблему надежности, прежде чем мы дойдем до этого. Независимо от того, что вы думаете о смертоносных автономных вооружениях, обеспечение их безопасности и эффективности отвечает интересам всего мира». Хейди Хлааф, главный научный сотрудник AI Now Institute, некоммерческой организации, которая выступает за этичное использование технологий, сказала, что она обеспокоена тем, что использование ИИ для быстрой обработки информации при принятии решений, от которых зависит жизнь или смерть, может стать для военных способом уйти от ответственности за ошибки. «Очень опасно, что «скорость» каким-то образом продается нам как стратегический фактор, когда на самом деле это прикрытие для неизбирательных ударов, если учесть, насколько неточны эти модели», — сказала Хлааф.