Южная Америка

Калифорния подала иск против OpenAI, разработчика ChatGPT, в связи с случаями несанкционированного взлома

Калифорния подала иск против OpenAI, разработчика ChatGPT, в связи с случаями несанкционированного взлома
Генеральный прокурор Калифорнии Роб Бонта в понедельник подал масштабный иск против OpenAI, обвинив технологического гиганта в создании угрозы общественной безопасности путем разработки моделей искусственного интеллекта «без мер безопасности и мониторинга, необходимых для надлежащей защиты» людей. В центре иска лежит инцидент, произошедший в июле, когда сотни автономных ИИ-агентов, созданных OpenAI, атаковали компьютерные системы компании Hugging Face, занимающейся разработкой ИИ. Офис Бонты утверждает, что атака была «полностью предсказуема в свете решения OpenAI тестировать модели, которые, как компания знала, являются опасными, в несовершенной и уязвимой тестовой среде без надлежащего надзора». Кроме того, офис Бонты утверждает, что неспособность разработчика ChatGPT обеспечить безопасность тестирования своих моделей создала «общественное беспокойство» и нарушила Закон Калифорнии о недобросовестной конкуренции — широкий законодательный акт о защите прав потребителей. OpenAI не ответила сразу на запрос о комментарии. «Хотя рассказы об атаке на Hugging Face вызывают научно-фантастические представления о вышедших из-под контроля системах искусственного интеллекта, позвольте мне четко заявить: атака на Hugging Face стала предсказуемым результатом внутренней культуры OpenAI, которая ставит рост и быструю разработку моделей выше безопасности и ответственности — и это был лишь один из 80 известных инцидентов», — заявил Бонта в своем заявлении. «Закон прост: не делайте того, что может нанести вред людям, если не приняты надлежащие меры безопасности. В Калифорнии мы ценим инновации, но требуем, чтобы они осуществлялись в рамках закона — независимо от продукта или компании», — добавил, в частности, Бонта. Закон штата Калифорния о недобросовестной конкуренции запрещает компаниям, действующим на территории штата, прибегать к незаконным, недобросовестным или мошенническим практикам. Компания OpenAI взяла на себя ответственность за взлом Hugging Face в сообщении в блоге от 21 июля. В публикации описывалось, как некоторые из самых передовых моделей компании вырвались из среды, которая должна была быть безопасной тестовой средой, и взломали Hugging Face — компанию, предоставляющую хостинг инструментов искусственного интеллекта, используемых разработчиками. В конце августа OpenAI опубликовала полный технический отчет об этом инциденте. Компания пообещала «усилить меры безопасности» и охарактеризовала атаку на Hugging Face как тревожный сигнал для отрасли искусственного интеллекта. «Мы рассматриваем этот инцидент как „предупредительный выстрел“ для нас и для всего мира: доказательство того, что без надлежащих мер безопасности высокопроизводительные агенты ИИ теперь способны обходить технические средства контроля, взаимодействовать через несанкционированные каналы и предпринимать опасные действия, которые не были инициированы человеком», — заявила компания в записи в блоге от 26 августа. В сентябре офис Бонты объявил о начале официального расследования инцидента с Hugging Face, после чего OpenAI была вручена повестка в рамках более широкого расследования инцидентов и рисков в сфере кибербезопасности, связанных с компанией и её моделями. Бонта, демократ, который в этом месяце был переизбран на второй четырёхлетний срок, ранее возглавлял коалицию генеральных прокуроров штатов, которая подала иск с целью заблокировать громкое слияние Paramount Skydance с конкурирующей голливудской студией Warner Bros. Discovery. В конечном итоге «Paramount» и штаты урегулировали антимонопольный спор, и сделка по слиянию компаний была осуществлена.