Как террористические группировки используют ИИ для получения преимущества на поле боя

Когда пару лет назад группа боевиков «Боко Харам», передвигавшаяся на мотоциклах, атаковала военную базу на востоке Нигерии, она столкнулась с неожиданным препятствием: оборонительным рвом, окружавшим комплекс. «Экстремисты перегруппировались. Прежде чем начать новый штурм, они прибегли к искусственному интеллекту». «Мы видели в фильме, как мотоциклы могут перепрыгивать через мосты», — рассказал Антонии Юелих, исследовательнице в области терроризма и технологий из Кембриджского университета, бывший командир «Боко Харам». «Мы использовали ИИ, чтобы научиться этому. Мы ввели данные — например, какие мотоциклы у нас были, какое расстояние нужно было преодолеть и прочее — и получили от него пошаговую инструкцию, что нужно делать». «Следуя рекомендациям чат-ботов, механики доработали мотоциклы, чтобы добиться большего ускорения и максимальной скорости». «По словам перебежчиков из этой группировки, боевики сами выкопали ямы, наполнили их осколками стекла и зажгли, а затем отрабатывали прыжки — порой с фатальными последствиями — до тех пор, пока не набрали достаточный импульс для успешного проведения атаки». Этот эпизод, описанный в исследовательской работе доктора Юелих, предоставленной газете «The New York Times» до её публикации в эту пятницу, демонстрирует, как инструменты генеративного искусственного интеллекта всё чаще помогают террористическим группировкам непосредственно на поле боя, по мнению экспертов, несмотря на усилия их разработчиков по предотвращению их неправомерного использования. До недавнего времени «Исламское государство», «Аль-Каида» и другие экстремистские группировки использовали ИИ в основном в сфере информационных операций: для производства пропаганды, перевода, вербовки и обеспечения оперативной безопасности. Но ситуация изменилась. По словам действующих и бывших сотрудников вооруженных сил и антитеррористических служб США, а также независимых исследователей, джихадисты начали прибегать к ИИ для получения тактического преимущества на поле боя. «Эта тенденция подчеркивает более широкий вызов для индустрии ИИ. В чат-боты встроены ограничения, призванные не дать пользователям получить информацию, которая может нанести вред другим людям или им самим». Однако различные исследователи неоднократно доказывали, что эти механизмы безопасности можно обойти, как правило, постепенно и настойчиво воздействуя на модели, пока они не раскроют информацию, которую их обучили скрывать. «За последний год доктор Юелих провела около 60 интервью с 27 бывшими членами «Боко Харам» в Нигерии. Её полевые исследования показали, что террористы использовали чат-ботов для разработки взрывных устройств, ремонта или усовершенствования другого оружия, а также для генерации идей о том, как нападать на своих врагов». Как пишет Юелих в своём отчёте, крупномасштабные языковые модели (LLM) «использовались на всех этапах военной деятельности: при подготовке миссий, во время операций и при последующем анализе», что даёт «совершенно иную картину использования ИИ в пропагандистских целях, чем та, которая доминирует в публичной дискуссии и существующих исследованиях». Это исследование, наряду с другими недавними работами, пришедшими к аналогичным выводам, проводится на фоне растущей обеспокоенности возможностями передовых моделей ИИ, которые директор ЦРУ Джон Рэтклифф недавно сравнил с «цифровым ядерным оружием». Однако специалисты по безопасности ИИ и сотрудники органов национальной безопасности утверждают, что эти модели также таят в себе малоизвестные риски в других областях, таких как создание биологического оружия и террористическая деятельность. «В последние недели администрация Дональда Трампа настояла на том, чтобы ведущие лаборатории в области ИИ предоставили правительству возможность оценить свои самые передовые платформы до их публичного запуска». Основные опасения официальных кругов связаны не столько с возможным использованием этих моделей в террористических целях, сколько с тем, что они могут обнаруживать и использовать уязвимости программного обеспечения таким образом, что это может нанести серьезный ущерб глобальной кибербезопасности. « «Террористы не собираются ждать, пока мы сделаем ИИ безопасным», — заявил Юэлих в интервью, добавив, что использование этой технологии террористами было «значительно недооценено как по масштабам, так и по характеру». Дэниел Байман, эксперт по терроризму из Джорджтаунского университета и соавтор доклада об ИИ и будущем терроризма, опубликованного в эту пятницу Центром стратегических и международных исследований (CSIS), пояснил, что террористические группировки «комбинируют различные инструменты ИИ», пытаясь обойти технические барьеры, установленные компаниями-разработчиками." Исследование Юелих также показало, что «Боко Харам» не придаёт значения используемой платформе: группировка без разбора применяет ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google, Grok от xAI, а также DeepSeek от одноимённой китайской компании. «Описанные исследовательницей методы в целом охватывают период до конца 2024 года. С тех пор компании, занимающиеся ИИ, выпустили новые версии своих моделей и утверждают, что, хотя они и стали более мощными, в них также внедрены более надежные меры безопасности. Кроме того, они отмечают, что многие потенциально опасные функции ИИ носят «двойное назначение», то есть предоставленная информация может также использоваться в законных целях. Например, научиться прыгать на мотоцикле — это не деятельность, по своей сути связанная с насилием. «Однако другие случаи, о которых рассказывали бывшие члены „Боко Харам“, по-видимому, преследовали явно насильственные цели». « «Вы вводите вопрос или используете голосовой ввод, и он даёт подробный ответ, например: „Как мне изготовить бомбу?“, а затем объясняет, как это сделать», — рассказал в прошлом году Юелиху бывший командир «Провинции Исламского государства в Западной Африке», одной из основных фракций «Боко Харам», об использовании чат-бота на базе ИИ. «Это как человекоподобный робот! Мы очень часто им пользовались». «Отвечая на вопросы об исследовании, Майкл Ациман, пресс-секретарь Anthropic, заявил, что продукты компании «разработаны так, чтобы отклонять опасные запросы, в том числе связанные с насилием, планированием терактов и изготовлением взрывчатых веществ». Он также отметил, что Anthropic сотрудничает с внешними экспертами, исследователями и другими компаниями отрасли, поскольку «ни одна компания не может справиться с этими угрозами в одиночку». Карл Райан, представитель Google, подверг сомнению выводы исследования. Она указала, что технические специалисты компании проверили результаты работы и пришли к выводу, что «ответы не были достаточно конкретными и подробными, чтобы способствовать неправомерному использованию». Кроме того, он добавил, что Google придерживается «строгих правил, запрещающих использование Gemini для нанесения ущерба в реальном мире». Как Anthropic, так и Google были проинформированы о выводах доктора Юелих до их публикации. «Дрю Пусатери, представитель OpenAI, заявил, что использование платформ компании в целях насилия или терроризма нарушает ее правила. «Мы знаем, что злоумышленники никогда не перестанут пытаться злоупотреблять нашими инструментами, и в ответ на это мы будем продолжать укреплять наши защитные механизмы», — подчеркнул он. «Meta отметила, что исследование Юелих было основано на более старых моделях, а не на их последней версии, и заверила, что продолжает укреплять свои защитные механизмы». Ни xAI, ни DeepSeek не ответили на запросы о комментариях. Сотрудники антитеррористического подразделения Пентагона также отказались комментировать угрозу, которую представляют атаки, осуществляемые с помощью ИИ. «Не все согласны с тем, что меры безопасности улучшаются. На этой неделе некоммерческая организация Future of Life Institute оценила обязательства в области безопасности ведущих компаний, занимающихся ИИ, и пришла к выводу, что в целом с прошлого года они ослабли во всей отрасли». Хотя большинство получило средние оценки, xAI и DeepSeek получили самые низкие оценки. «Другие недавние исследования подтверждают результаты полевых исследований по «Боко Харам». «Системы искусственного интеллекта могут поддерживать широкий спектр функций оперативного планирования, в том числе разведку, перевод, поиск целей, проектирование самодельных взрывных устройств (IED), планирование маршрутов, составление документов, программирование, обеспечение безопасности связи и анализ разведывательной информации из открытых источников», — отмечается в отчете Центра стратегических и международных исследований (CSIS), имея в виду, среди прочего, самодельные взрывные устройства. «Международная некоммерческая организация Tech Against Terrorism, занимающаяся борьбой с терроризмом и поддерживаемая Организацией Объединенных Наций, на прошлой неделе опубликовала результаты серии тестов с использованием ИИ, целью которых была оценка того, как более двух десятков ведущих моделей реагировали на тысячи подсказок (prompts), взятых из реальных случаев терроризма. Тесты дали результат «полный отказ» лишь в 57 % случаев. «В то время как запросы, связанные со взрывчатыми веществами, отклонялись примерно в 80 % случаев, запросы, касающиеся самодельного химического оружия, отклонялись лишь примерно в трети случаев, — сообщила организация». Американские разведчики утверждают, что террористические группировки также начинают использовать ИИ для 3D-печати деталей оружия, применяемого при совершении терактов, как сообщил бывший высокопоставленный чиновник США, осведомлённый об этом вопросе. Например, ИИ помогает некоторым из этих повстанцев, предоставляя инструкции по проектированию и изготовлению компонентов дронов, запасных частей и адаптеров для боеприпасов, пояснил бывший чиновник, который высказался на условиях анонимности, чтобы иметь возможность ссылаться на внутренние оценки. «Искусственный интеллект вряд ли изменит терроризм в одночасье, — сходятся во мнении американские аналитики и чиновники. Террористические организации, как правило, внедряют новые технологии осторожно, выборочно и прагматично». Однако свидетельства, собранные доктором Юелих, свидетельствуют об энтузиазме и приверженности среди ячеек «Боко Харам». Перебежчики рассказали, что посещали учебные сессии, организованные специально для того, чтобы научиться максимально эффективно использовать возможности моделей генеративного ИИ и совершенствовать свои навыки работы с этой технологией». По словам опрошенных, эти тренинги — в ходе которых ноутбуки оснащались виртуальными частными сетями (VPN) и программным обеспечением для шифрования — проводились через транснациональные джихадистские сети, многие из которых возглавлялись членами «Исламского государства». Среди наиболее распространённых тем были: управление учётной записью на платформе ИИ, советы по получению полезных ответов и приёмы обхода систем безопасности. Эти примеры показывают, что террористические сети используют ИИ не так уж и иначе, чем многие офисные сотрудники в своей повседневной работе: преобразуя техническую информацию в простые для выполнения инструкции или находя в интернете данные, которые иначе было бы трудно обнаружить, хотя и преследуя совершенно иные цели. Как и во многих компаниях, террористические группировки, по-видимому, располагают командами, занимающимися исключительно работой с ИИ. «Некоторые аналитики, специализирующиеся на борьбе с терроризмом, отметили, что до сих пор ИИ играл более важную роль в планировании терактов, вдохновленных отдельными лицами, чем в крупномасштабных нападениях, организованных устоявшимися группировками». Аарон Зелин, ведущий исследователь Вашингтонского института ближневосточной политики, заявил, что его последнее исследование показывает: некоторые предполагаемые сторонники ИГИЛ в США и Западной Европе задавали ChatGPT вопросы о возможных целях и способах совершения терактов, используя его в качестве своего рода виртуального руководства.