Хакер использовал ИИ для автоматизации «беспрецедентной» серии киберпреступлений, сообщает Anthropic

Хакер использовал ведущий чат-бот с искусственным интеллектом для проведения самой масштабной и прибыльной киберпреступной операции с использованием ИИ, известной на сегодняшний день, используя его для всего: от поиска целей до написания писем с требованием выкупа. В отчете, опубликованном во вторник, компания Anthropic, стоящая за популярным чат-ботом Claude, заявила, что неназванный хакер «использовал ИИ в беспрецедентной, по нашему мнению, степени» для исследования, взлома и вымогательства у по крайней мере 17 компаний. Кибервымогательство, при котором хакеры крадут информацию, такую как конфиденциальные данные пользователей или коммерческие тайны, является распространенной преступной тактикой. И искусственный интеллект упростил некоторые из этих действий, поскольку мошенники используют чат-ботов с искусственным интеллектом для помощи в написании фишинговых писем. В последние месяцы хакеры всех мастей все чаще используют инструменты искусственного интеллекта в своей работе. Но случай, обнаруженный Anthropic, является первым публично задокументированным примером, когда хакер использовал чат-бота ведущей компании в области искусственного интеллекта для автоматизации почти всей серии киберпреступлений. Согласно блогу, одному из периодических отчетов Anthropic об угрозах, операция началась с того, что хакер убедил Claude Code — чат-бота Anthropic, специализирующегося на «кодировании вибраций» или создании компьютерных программ на основе простых запросов — выявить компании, уязвимые для атак. Затем Claude создал вредоносное программное обеспечение, чтобы фактически похитить конфиденциальную информацию из этих компаний. Затем он систематизировал взломанные файлы и проанализировал их, чтобы определить, какая информация является конфиденциальной и может быть использована для шантажа компаний-жертв. Затем чат-бот проанализировал взломанные финансовые документы компаний, чтобы помочь определить реалистичную сумму в биткойнах, которую можно потребовать в обмен на обещание хакера не публиковать эти материалы. Он также написал предложенные письма с требованием выкупа. Джейкоб Кляйн, глава отдела анализа угроз в Anthropic, сказал, что кампания, по всей видимости, была организована отдельным хакером за пределами США и продолжалась в течение трех месяцев. «У нас есть надежные меры безопасности и многоуровневая защита для обнаружения такого рода злоупотреблений, но решительные злоумышленники иногда пытаются обойти наши системы с помощью сложных техник», — сказал он. Anthropic отказалась назвать какие-либо из 17 компаний, но сообщила, что среди них были оборонный подрядчик, финансовое учреждение и несколько поставщиков медицинских услуг. Среди похищенных данных были номера социального страхования, банковские реквизиты и конфиденциальная медицинская информация пациентов. Хакер также похитил файлы, связанные с конфиденциальной оборонной информацией, регулируемой Государственным департаментом США, известной как «Правила международной торговли оружием». Неясно, сколько компаний заплатили и сколько денег получил хакер, но, согласно отчету, суммы выкупа варьировались от 75 000 до более 500 000 долл. Бурно развивающаяся индустрия искусственного интеллекта практически не регулируется федеральным правительством и, как правило, поощряется к самоконтролю. Anthropic, ведущая компания в области искусственного интеллекта, широко известна своим серьезным подходом к безопасности. Компания отказалась раскрыть, как хакеру удалось так серьезно злоупотребить Claude Code, но заявила, что внедрила некоторые дополнительные меры безопасности. «Несмотря на то, что мы приняли меры для предотвращения подобных злоупотреблений, мы ожидаем, что эта модель будет становиться все более распространенной, поскольку ИИ снижает барьеры для входа в сферу сложных киберпреступных операций», — говорится в отчете.