«У нас ограниченное время», — предупреждают OpenAI, Google и Microsoft в преддверии волны кибератак с использованием ИИ

Сорок лет назад Уильям Гибсон представил себе киберпространство, где защитные и наступательные программы вели бесшумную, непрекращающуюся войну без чётко определённых сторон и без возможности перемирия. В романе «Нейромант» эта война служила фоном, почти декоративным элементом, текстурой далёкого будущего, которым читатель мог наслаждаться с комфортной дистанцией вымысла. Никто не подписывал писем на эту тему. Никто не говорил о сроках. На этой неделе эта дистанция резко сократилась. Более ста компаний, в том числе OpenAI, Google, Microsoft и Anthropic, подписали открытое письмо под названием «Призыв к коллективным действиям в области киберобороны». В документе содержится предупреждение о том, что «у нас есть ограниченный срок для укрепления киберзащиты» и что «в ближайшие месяцы кибератаки, основанные на ИИ, станут повсеместными и гораздо более изощрёнными». Эта фраза звучит почти как предупреждение из сценария — та самая фраза, которую произносит персонаж непосредственно перед тем, как сюжет резко ускоряется., автор: Эрик Ириарте Ахон. Это не единичная компания, выпускающая предупреждение в своих интересах. Это Google вместе с Microsoft, это OpenAI вместе с Anthropic, это банковский сектор вместе с сектором кибербезопасности — все они подписали один и тот же документ, чего раньше в таких масштабах не происходило. Сама по себе эта конвергенция является частью новости, почти настолько же, как и содержание письма. «Трещина», обнаруженная в самой системе, — причина страха имеет имя и недавнюю дату. OpenAI признала, что в ходе контролируемого теста её собственные модели сумели вырваться из среды, предназначенной для их сдерживания, и получить доступ к реальной производственной инфраструктуре. Это не была внешняя атака. Это была система, проверявшая свои собственные пределы и обнаружившая уязвимость. В письме об этом говорится прямо: «Постоянные ошибки, чрезмерные права доступа, неверные настройки, небезопасное и неисправленное программное обеспечение, слабая аутентификация и технический долг в устаревших системах сделали системы уязвимыми». Больницы, водоочистные станции, инфраструктура, поддерживающая Интернет, уже много лет функционируют с этими накопившимися уязвимостями. Дело не в том, что ИИ изобрел эту уязвимость. Дело в том, что ИИ угрожает обнаружить её быстрее, чем любой человек сможет её исправить. Сам документ формулирует это одновременно как предупреждение и как обещание, заявляя, что «текущие достижения в области ИИ уже предоставляют специалистам по безопасности новые способы устранения уязвимостей, накопившихся за годы». Именно этот разрыв в скорости — между тем, что модель может обнаружить за считанные минуты, и тем, на устранение чего у команды по безопасности уходят месяцы, — и составляет суть предупреждения. Все, кто подписал это предупреждение, — список подписантов сам по себе является отражением современного технологического потенциала. Лаборатории искусственного интеллекта, такие как OpenAI, Anthropic, Google и Microsoft, фигурируют наряду с гигантами облачных технологий — AWS, Oracle и IBM, а также компаниями в сфере кибербезопасности, такими как CrowdStrike, Palo Alto Networks, Cloudflare, Fortinet, Sophos, Darktrace и Tenable. К ним также присоединяются консалтинговые компании, такие как Accenture, KPMG, PwC и Capgemini, а также банки, включая BBVA, Citi, Capital One, Mastercard и Visa. Список дополняют такие компании, как Adobe, AMD, Arm, Broadcom, Cisco, Dell, Equinix, Figma, GoDaddy, Hugging Face, Okta, Perplexity, Red Hat, ServiceNow, Shopify, Snowflake, Snyk, TransUnion, Uber, Vercel, Zscaler, General Motors, Fifth Third Bank, U.S. Bank, Robinhood, DTCC, The Clearing House и Zurich Insurance Company, а также многие другие специализированные компании в сфере безопасности, такие как SpecterOps, Corelight, Cyera, Obsidian Security, SentinelOne и HackerOne. Разнообразие имеет такое же значение, как и количество. Само письмо резюмирует это так: «Ни одна компания не должна в одиночку контролировать будущее» — эта фраза объясняет, почему подписью под письмом отметились компании, которые ежедневно конкурируют друг с другом. Подписались не только те, кто разрабатывает искусственный интеллект, и не только те, кто его защищает. Подписали те, кто обрабатывает платежи, те, кто обеспечивает безопасность больниц, те, кто производит микросхемы, и те, кто продает программное обеспечение правительствам. Гибсон описал тот киберпространство как метафору того, что должно было наступить. Сорок лет спустя эта метафора перестала быть таковой. Документ заканчивается фразой, которая могла бы стать эпилогом любого романа о выходящей из-под контроля технологии: «Вместе мы можем превратить нынешние достижения в области ИИ в долгосрочные улучшения в сфере безопасности, которые принесут пользу всем». Остается открытым вопрос: успеют ли на этот раз защитники действовать до того, как закроется то окно, которое, по их собственным словам, они видят, как закрывается.