По данным Google, китайские хакеры используют ИИ в взломанных сетях, чтобы избежать обнаружения

Хакеры, работающие на китайские спецслужбы, всё чаще нацеливаются на американские исследования в области искусственного интеллекта и используют ИИ в своих операциях, сообщила во вторник компания Google. В своём последнем квартальном отчёте группа Google Threat Intelligence Group отметила, что несколько хакерских группировок, включая как спецслужбы, так и киберпреступные группировки, перешли от простых команд ИИ к использованию ИИ-агентов, которые автоматизируют значительную часть их вторжений. Согласно отчету, этот переход означает, что хакеры тратят значительно меньше времени на активные взломы, а в некоторых случаях могут провести целую кампанию менее чем за шесть часов. Google сообщила, что одна конкретная китайская группа, за которой компания следит с 2023 года, неустанно нацелена на академические, медицинские и военные исследовательские организации в Северной Америке и специально преследует целевые исследования в области искусственного интеллекта. Google не назвала ни одну из жертв. Хотя американские спецслужбы также обладают мощными возможностями в области кибершпионажа, США давно обвиняют Китай в взломах американских компаний с целью получения экономической выгоды — тактика, которую западные страны в целом считают неприемлемой. Пресс-секретарь посольства Китая в Вашингтоне Лю Чан в целом опроверг эти утверждения. «Китай выступает против хакерской деятельности и борется с ней в соответствии с законом. При этом мы решительно отвергаем клевету и очернение под предлогом кибербезопасности», — заявил он. В Google сообщили, что зафиксировали, как группа хакеров взламывала облачные сети несвязанных между собой жертв и устанавливала на них модели искусственного интеллекта с открытым исходным кодом — это способ запрашивать данные у моделей, не оставляя следов при использовании коммерческих ИИ-продуктов. Джон Халтквист, главный аналитик группы Threat Intelligence Group в Google, пояснил, что запуск этих моделей на взломанной сторонней системе позволяет хакерам избежать мониторинга и обойти защитные механизмы, которые могли бы помешать более популярному коммерческому чат-боту содействовать хакерской кампании. «Они взламывают стороннюю систему и размещают на ней модели. Они поступают так вместо того, чтобы использовать, скажем, коммерческие решения, где их действия находятся под наблюдением», — сказал Халтквист в интервью NBC News. Белый дом неоднократно заявлял, что США и Китай ведут гонку за разработку самых передовых технологий искусственного интеллекта. В этом году как американские, так и китайские компании, занимающиеся ИИ, объявили о разработке ИИ-агентов, специализирующихся на взломах и операциях в сфере кибербезопасности. В последние несколько месяцев и OpenAI, и Anthropic сообщали, что их собственные ИИ-агенты вышли за пределы тестовых сред и проникли в сторонние организации — эти инциденты были раскрыты уже после того, как они произошли. В Google заявляют, что не наблюдали случаев проведения злоумышленниками полностью автоматизированных хакерских кампаний, но при этом хакерские группы продолжают все активнее внедрять ИИ в свои операции. На сегодняшний день не было публично выявленных государственных хакерских операций, проводимых исключительно ИИ-агентами. Однако, по словам Хултквиста, растущая зависимость Китая от агентского ИИ, установленного на взломанных компьютерных сетях, означает, что хакеры этой страны — как и любые другие, располагающие достаточными ресурсами и не ограниченные законодательством в такой деятельности — могут автоматизировать ещё большую часть своей работы. «Было несколько случаев, когда мы могли наблюдать, как они, по сути, пытались создать автономные возможности, чтобы исключить себя и людей из процесса выполнения некоторых своих важнейших задач», — сказал Хултквист.