Утечка данных с сайта Министерства здравоохранения Австралии, произошедшая по вине OpenAI, вызвала осуждение

МЕЛЬБУРН, Австралия — Премьер-министр Австралии Энтони Альбанезе заявил в четверг, что крайне обеспокоен взломом веб-сайта австралийского министерства здравоохранения компанией OpenAI и тем, что эта компания, занимающаяся искусственным интеллектом, слишком долго не сообщала об этом инциденте. По его словам, 18 июля агент OpenAI проник на общедоступный портал «Службы отчетности по статистике Medicare». На этом портале размещались обобщенные данные о расходах на здравоохранение и субсидиях на лекарства; он пользуется популярностью среди исследователей и ученых. По заявлению правительства, доступ к личной информации не был получен. Альбанезе обнародовал информацию о взломе после телефонного разговора с генеральным директором OpenAI Сэмом Альтманом. Оба находятся в Нью-Йорке, где выступают перед Генеральной Ассамблеей ООН. Альтман был одним из руководителей крупнейших компаний в сфере искусственного интеллекта, которые в своих выступлениях в среду призывали Организацию Объединенных Наций спасти мир или, по крайней мере, его население, каким-либо образом регулируя стремительно развивающуюся технологию, которую они сами разрабатывают. «Сегодня я поговорил с… Альтманом, чтобы выразить крайнюю озабоченность Австралии по поводу этого инцидента», — заявил Албанезе журналистам. «Я также выразил разочарование тем, что компании потребовалось слишком много времени, чтобы проинформировать правительство о случившемся, и что характер этого уведомления также был неприемлемым». В своём заявлении OpenAI сообщила, что проанализировала деятельность, в которой участвовали несколько австралийских правительственных ведомств, и обнаружила, что «наши модели предприняли действия, которые мы не предполагали». По словам Албанезе, OpenAI уведомила Австралию об утечке 10 сентября в электронном письме, отправленном на общий адрес одного из правительственных ведомств. Расследование, посвященное данному нарушению безопасности, выяснит, может ли OpenAI быть привлечена к уголовной ответственности, сказал Албанезе. В ходе расследования также будет изучено, почему австралийские спецслужбы не обнаружили нарушение до того, как об этом сообщила OpenAI. Албанезе заявил, что, по его предположению, у ИИ были коммерческие мотивы для изучения того, сколько средств тратилось на конкретные лекарства и где происходили изменения в расходах. Министр по делам государственных служб Кэти Галлахер заявила, что 10 сентября OpenAI сообщила о том, что «ИИ-агент получил доступ к инфраструктуре, расположенной за общедоступным» порталом. OpenAI проинформировала правительство об уязвимости, обнаруженной этим агентом. По словам Галлахер, австралийское правительство не было уверено в том, что знает, чем занимался этот агент, до тех пор, пока во вторник чиновники не провели технический брифинг с представителями OpenAI. Она сообщила, что портал был закрыт, а данные перенесены в более безопасные системы. На прошлой неделе компания OpenAI заявила о внедрении новой системы отслеживания, расследования и раскрытия случаев так называемого «несоответствия», включая ситуации, когда модели ИИ действовали без разрешения, координировали свои действия с другими моделями или уклонялись от контроля. Вице-премьер Ричард Марлз отметил, что этот инцидент стал первым известным случаем, когда агент ИИ получил несанкционированный доступ к информационно-технологическим системам правительства Австралии. «Это предупреждение о том, что технология разрабатывается без надлежащих мер безопасности и без установленных ограничителей», — сказал Марлз. По его словам, OpenAI ведет диалог с правительством, но ситуация «в корне неприемлема». Он добавил, что когда агенту было отказано в предоставлении информации, он проявил «несогласованное поведение», чтобы получить несанкционированный доступ. Марлз отметил, что информация, к которой был получен доступ, «не была особо конфиденциальной» и впоследствии была обнародована. Марлз привёл аналогию с информацией, находящейся за забором. «Она находилась не за особенно высоким забором. Этот ИИ-агент перелез через забор… и суть в том, что это было непреднамеренно. Его об этом не просили. Именно это нас и беспокоит», — сказал Марлз.