Хакеры взломали OpenAI, что ещё больше усилило уже и без того острую обеспокоенность вопросами безопасности и защиты

Небольшая группа исследователей в области кибербезопасности заявила в воскресенье, что в начале этого года им удалось взломать систему OpenAI; это заявление вызвало новую волну беспокойства по поводу безопасности искусственного интеллекта. Исследователи из небольшой компании Hacktron обнаружили, что, соединив две неизвестные уязвимости — одну в сторонней компании Discourse, а другую в системе проверки сотрудников OpenAI — они смогли получить доступ к учетным записям сотрудников в ChatGPT. Как это принято среди исследователей — которых иногда называют «белыми хакерами» — они не нанесли никакого ущерба системам компании. Hacktron провела всю операцию в течение 72 часов в конце июля, вскоре после того, как некоторые агенты OpenAI прорвали систему защиты и взломали платформу искусственного интеллекта Hugging Face. Представитель OpenAI подтвердил отчет Hacktron и сообщил, что уязвимости с тех пор были устранены. «Мы благодарим исследователей за то, что они связались с нами и поделились своими выводами», — сказал представитель. Эта новость появилась на фоне того, что в последние недели в общественном пространстве резко усилились опасения по поводу безопасности ИИ. Исследователи в области безопасности уволились из крупных компаний и выступили с суровыми предупреждениями о том, что передовые технологии могут представлять угрозу для человечества, а политики всех политических направлений призвали к принятию мер. Хотя большая часть этих опасений связана с возможностями передовых моделей ИИ, безопасность самих компаний также является серьезной проблемой. Разработка искусственного интеллекта характеризуется чрезвычайно высокой конкуренцией, и широко распространены опасения по поводу кражи — в первую очередь посредством процесса, известного как «дистилляция». Как и многие другие компании, OpenAI реализует программу «bug bounty», в рамках которой предлагает вознаграждение исследователям в области кибербезопасности, обнаруживающим новые способы взлома системы, вместо того чтобы продавать их злоумышленникам, которые могли бы нанести ущерб компании. Исследователи из Hacktron написали в своём блоге, что OpenAI выплатила им 6 500 долл. за это открытие. Нет никаких доказательств того, что какие-либо другие хакеры использовали те же уязвимости, что и Hacktron. Однако страны Америки на протяжении многих лет обвиняют китайскую разведку в экономическом шпионаже, заявляя, что элитные правительственные хакеры Китая регулярно передают похищенные коммерческие тайны китайским компаниям. Китай в целом отвергает эти обвинения. Совсем недавно США официально обвинили китайскую индустрию искусственного интеллекта в систематическом ведении шпионажа против американских компаний, занимающихся ИИ. Грег Линарес, исследователь в области кибербезопасности из компании Persona, которая занимается аутентификацией пользователей, заявил, что открытие Hacktron дало бы элитным хакерам из Китая или других стран возможность взломать системы OpenAI. «То, что они соединили воедино, не отличалось от методов, которые используют в реальном мире злоумышленники очень высокого уровня, такие как APT или хакеры, поддерживаемые государством, для взлома целей», — сказал Линарес в интервью NBC News, используя аббревиатуру «advanced persistent threats» (усовершенствованные постоянные угрозы), под которой подразумеваются хакерские группы, действующие на постоянной основе и обычно поддерживаемые государством или связанные с ним. «Этот взлом наглядно демонстрирует необходимость постоянной бдительности в подобных средах: когда в системе так много движущихся частей и существует постоянное давление, требующее непрерывного развития и выполнения задач, обновления остаются без внимания, упускаются настройки, а в слоях защиты появляются уязвимости», — сказал он.