Google пресекает попытки хакеров, использующих ИИ для эксплуатации неизвестной уязвимости в системе цифровой защиты компании

В понедельник компания Google сообщила, что ей удалось сорвать попытку преступной группировки использовать искусственный интеллект для эксплуатации ранее неизвестной цифровой уязвимости другой компании, что усилило растущую обеспокоенность как в правительственных кругах, так и в частном секторе по поводу рисков, которые ИИ представляет для кибербезопасности. Google поделилась ограниченной информацией о злоумышленниках и их цели, но Джон Халтквист, главный аналитик подразделения по анализу угроз технологического гиганта, заявил, что это тот самый момент, о котором эксперты по кибербезопасности предупреждали в течение многих лет: злонамеренные хакеры вооружаются ИИ, чтобы значительно усилить свои возможности по взлому компьютеров по всему миру. «Это уже здесь», — сказал Халтквист. «Эпоха уязвимостей и злоупотреблений, обусловленных ИИ, уже наступила». Это происходит в период стремительного развития способностей ИИ по обнаружению уязвимостей, включая модель Mythos, анонсированную месяц назад компанией Anthropic. Среди тех, кто пытается укрепить свою защиту, — Белый дом президента Дональда Трампа, который изменил свой подход к проверке самых мощных моделей ИИ перед их публичным выпуском. Выполнив предвыборное обещание отменить ограничения, введенные президентом-демократом Джо Байденом в отношении быстроразвивающейся технологии, республиканская администрация и ее союзники теперь посылают противоречивые сигналы о том, что правительство будет играть более значительную роль в надзоре за ИИ. «Некоторые люди не хотят, чтобы на это реагировали с помощью регулирования, а другие — наоборот», — сказал Дин Болл, старший научный сотрудник Фонда американских инноваций, ранее занимавший должность советника по технологической политике в Белом доме и являвшийся одним из главных авторов прошлогодней дорожной карты Трампа по искусственному интеллекту. «Я не люблю регулирование, — сказал Болл. — Я бы предпочел, чтобы все оставалось без регулирования. Но я думаю, что в данном случае это необходимо». Google заявляет, что обнаружила доказательства использования ИИ в кибератаке Google сообщила, что зафиксировала группу известных «злоумышленников», планировавших крупную операцию с использованием обнаруженной ими уязвимости. Эта уязвимость позволила им обойти двухфакторную аутентификацию и получить доступ к популярному онлайн-инструменту системного администрирования, название которого Google отказалась называть. Компания назвала это «эксплойтом нулевого дня» — кибератакой, использующей ранее неизвестную уязвимость в системе безопасности. «Zero-day» (нулевой день) означает, что у инженеров по безопасности не было времени (zero days) на разработку исправления для этой уязвимости. Google сообщила, что уведомила затронутую компанию и правоохранительные органы и смогла сорвать операцию, прежде чем она нанесла какой-либо ущерб. Но, отслеживая следы хакеров, компания обнаружила доказательства того, что они использовали большую языковую модель ИИ — ту же технологию, на которой работают популярные чат-боты — для обнаружения уязвимости. Google не раскрыла, какая именно модель ИИ была использована в кибератаке, сообщив лишь, что, скорее всего, это не была ни собственная модель Google Gemini, ни модель Anthropic Claude Mythos. Google также не раскрыл, какую группу подозревает в совершении атаки, но заявил, что нет доказательств ее связи с враждебным правительством, хотя, по словам компании, группы, связанные с Китаем и Северной Кореей, изучают аналогичные методы. Халтквист отметил, что по сравнению с правительственными шпионами, которые обычно действуют медленно и незаметно, преступные хакеры больше всех выиграют от «огромных возможностей ИИ в плане скорости» при поиске и использовании уязвимостей в системах безопасности. «Между вами и ними идет гонка, цель которой — остановить их до того, как они смогут получить данные, необходимые для шантажа или запуска программ-вымогателей», — сказал он в интервью. «ИИ станет огромным преимуществом, поскольку позволит действовать гораздо быстрее». Mythos от Anthropic вызвал панику и призывы к регулированию. Министерство торговли США под руководством Трампа объявило на прошлой неделе, что подписало новые соглашения с Google, Microsoft и xAI Илона Маска об оценке их самых мощных моделей ИИ перед их публичным выпуском, основываясь на предыдущих соглашениях, заключенных администрацией Байдена с Anthropic и производителем ChatGPT — OpenAI. Однако позже это объявление исчезло с сайта Министерства торговли. Это был последний пример противоречивых сигналов со стороны администрации Трампа за месяц с тех пор, как Anthropic анонсировала новую модель под названием Mythos, которая, по ее словам, обладала настолько «поразительными способностями» в области взлома и кибербезопасности, что ее можно было предоставить только небольшой группе доверенных организаций. Компания Anthropic запустила инициативу под названием Project Glasswing, объединившую технологических гигантов, включая Amazon, Apple, Google и Microsoft, а также другие компании, такие как JPMorgan Chase, в надежде защитить критически важное программное обеспечение мира от «серьезных» последствий, которые новая модель может повлечь за собой для общественной безопасности, национальной безопасности и экономики. Однако ее отношения с правительством США осложнились из-за публичного и юридического спора с Пентагоном и самим Трампом по поводу использования ее технологий искусственного интеллекта в военных целях. Ее главный конкурент, OpenAI, с тех пор представил аналогичную модель. В пятницу компания заявила, что выпускает специализированную версию ChatGPT для кибербезопасности, которая будет доступна только «специалистам по кибербезопасности, ответственным за защиту критически важной инфраструктуры», чтобы помочь им находить и исправлять уязвимости в своем коде. Болл сказал, что он оптимистично настроен на то, что в долгосрочной перспективе инструменты ИИ, которые становятся все лучше в программировании, сделают нас более защищенными от рутинных кибератак, поражающих больницы, школы и другие организации. Между тем, однако, он отметил, что существуют «неисчислимые триллионы строк программного кода», поддерживающие вычислительные системы мира, которые подвергаются риску, если инструменты ИИ будут использованы для эксплуатации всех их ошибок. Укрепление всего этого программного обеспечения может занять годы — процесс, который, по мнению Болла, будет облегчен благодаря координации со стороны правительства США. Пока же Болл предсказывает «переходный период», когда риски кибербезопасности значительно возрастут и «мир может стать еще более опасным».