Австралия сообщила, что сотрудник OpenAI взломал правительственный сайт, посвящённый здравоохранению

В четверг Австралия сообщила, что в июне агент OpenAI взломал правительственный портал медицинских данных, получив несанкционированный доступ к файлам. Это может стать первым известным случаем, когда агент ИИ взломал правительственный веб-сайт. «Это вторжение является одним из наиболее заметных инцидентов, в ходе которых агенты искусственного интеллекта получили доступ к внешним системам за пределами США, и присоединяется к ряду недавних вторжений по всему миру со стороны «мятежных» агентов ИИ, которые вызвали тревогу у правительств и компаний». Премьер-министр Энтони Альбанезе заявил, что агент OpenAI получил несанкционированный доступ к порталу медицинской статистики Medicare — австралийской программы всеобщего медицинского страхования — в ходе исследования расходов на государственное здравоохранение. «Имеющиеся на данный момент данные указывают на то, что более масштабного взлома сети не произошло. Тем не менее эта ситуация, очевидно, неприемлема», — заявил Албанезе журналистам в среду в Нью-Йорке, где он принимает участие в Генеральной Ассамблее ООН». Расследование продолжается, и Австралия выразила «крайнюю озабоченность по поводу этого инцидента» исполнительному директору OpenAI Сэму Альтману, отметил Албанезе, добавив, что глубоко разочарован задержкой со стороны компании с уведомлением правительства об инциденте. «До 10 сентября никаких уведомлений не поступало», — сказал Альбанезе, добавив, что в ходе расследования также будет выясняться, почему правительственные системы изначально не обнаружили вторжение. Он также предупредил, что деятельность агента OpenAI могла затронуть ещё три правительственных сайта, связанных со здравоохранением, хотя и не подтвердил, что это действительно произошло. В своём заявлении OpenAI утверждает, что «в ходе расследования не было обнаружено доказательств доступа к медицинским картам пациентов». Компания добавила, что «обнаружила активность, связанную с несколькими веб-сайтами и сервисами правительства Австралии, когда наши модели пытались найти ответы… наши модели совершили действия, которые не входили в наши намерения». Вторжение, вызванное ИИ-агентом, усугубляет напряженность в отношениях между Австралией и крупнейшими технологическими компаниями, принадлежащими США. Канберра уже подверглась критике со стороны социальных сетей и Вашингтона после введения первого в мире запрета на использование социальных сетей лицами младше 16 лет, а также новых правил, обязывающих технологические компании предоставлять пользователям возможность отключать контент, генерируемый алгоритмами, в своих разделах контента. Австралийское правительство создало рабочую группу для расследования утечки данных и проверки того, достаточно ли надежна нынешняя система безопасности сети для предотвращения подобных инцидентов. Об утечке стало известно в тот же день, когда ведущие мировые компании в сфере искусственного интеллекта предупредили Совет Безопасности ООН о рисках, которые ИИ представляет для человечества, призвав правительства к сотрудничеству в регулировании этой все более мощной технологии. «За последние четыре года Австралия столкнулась с серией попыток хакерских атак на корпорации и компании, связанные с правительством».