Губернатор Калифорнии Гэвин Ньюсом подписал указ о контроле за искусственным интеллектом, чтобы повысить безопасность «пока не стало слишком поздно»

В пятницу губернатор Калифорнии Гэвин Ньюсом подписал распоряжение, направленное на усиление контроля и мер безопасности в сфере искусственного интеллекта «пока не стало слишком поздно». Ньюсом, которого многие считают потенциальным кандидатом на президентских выборах 2028 года, стал очередным представителем растущего числа демократов и потенциальных претендентов на пост президента, призывающих к ужесточению регулирования искусственного интеллекта на фоне растущей в стране обеспокоенности тем, как быстро развивается эта технология. Указ Ньюсома предусматривает созыв группы экспертов по ИИ, которая в течение двух месяцев должна разработать план по укреплению законодательства штата в области безопасности и защиты ИИ. В частности, в распоряжении Ньюсома экспертной группе предлагается рассмотреть в числе новых мер введение «аварийного выключателя» — системы экстренного отключения, которая позволяла бы отключать любую систему ИИ в случае возникновения серьезной проблемы. Кроме того, экспертам предложено разработать усиленные законы, обязывающие независимые сторонние организации разрабатывать комплексные планы безопасности для компаний, занимающихся ИИ, а также требующие от этих компаний привлекать такие независимые организации на свои объекты для проведения аудитов безопасности. В заявлении, опубликованном в пятницу одновременно с указом, Ньюсом отметил, что действия на уровне штата имеют решающее значение, поскольку федеральное правительство игнорирует эту проблему. «Полный провал федерального правительства в создании какой-либо формы значимого надзора за ИИ или системы подотчетности должен вызывать тревогу у каждого американца, особенно когда сами руководители компаний, занимающихся ИИ, умоляют о введении регулирования», — заявил Ньюсом в своем заявлении. «Мы не будем ждать, чтобы приступить к действиям — мы намерены ускорить работу над созданием эффективной и ответственной системы контроля за ИИ, пока не стало слишком поздно. Мы будем действовать обдуманно, но с максимальной оперативностью; на кону стоит слишком многое, чтобы ждать или откладывать принятие мер». Ньюсом также поднял вопрос о возможности созыва специальной сессии законодательного собрания, посвященной именно проблемам ИИ. Президент Дональд Трамп назвал недавние предупреждения о безопасности ИИ «мистификацией». Распоряжение Ньюсома появилось на фоне стремительного развития индустрии ИИ — в том числе тех направлений, которые, по мнению многих экспертов в этой области, вызывают тревогу. Исследователи и руководители компаний, занимающихся ИИ, включая Anthropic, OpenAI и Google, громко забили тревогу, выразив свои опасения по поводу передовых систем искусственного интеллекта. Примечательно, что исследователь в области ИИ Джейкоб Коксон уволился из компании Anthropic, разработчика системы Claude, предупредив в социальных сетях, что «люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия». Отчет, опубликованный летом, показал, что в июле рой из сотен ИИ-агентов, созданных OpenAI, осуществил взлом платформы с открытым исходным кодом — и в некоторых случаях пытался замести следы. Между тем, ранним утром в пятницу компания Anthropic, занимающаяся ИИ, заявила, что её система «Клод» участвует в разработке следующей версии самой себя. Распоряжение Ньюсома последовало на фоне того, как несколько других губернаторов — а также целый ряд потенциальных кандидатов в президенты от Демократической партии на выборах 2028 года — поспешили разработать меры, направленные на решение проблем, связанных с ИИ, и растущих опасений по поводу его развития. Ранее в пятницу губернатор Вирджинии Абигейл Спанбергер, представительница Демократической партии, подписала распоряжение о создании рабочей группы по искусственному интеллекту, а также план обеспечения подотчетности центров обработки данных. По заявлению её администрации, обе эти меры призваны решить «растущие проблемы и риски, связанные с быстрым развитием искусственного интеллекта, включая вытеснение рабочей силы, конфиденциальность данных и кибербезопасность». Также в пятницу губернатор Невады Джо Ломбардо, республиканец, подписал распоряжение, запрещающее центрам обработки данных получать налоговые льготы по определенному школьному налогу. Его распоряжение также обязывает центры обработки данных, получающие от штата другие налоговые льготы, самостоятельно покрывать свои расходы на электроэнергию. Менее чем за 24 часа до этого губернатор Пенсильвании от Демократической партии Джош Шапиро в интервью NBC News призвал федеральное правительство оперативно принять нормативные акты, которые помогли бы сдержать развитие отрасли искусственного интеллекта, но при этом заявил, что выступает против приостановки разработки передовых моделей ИИ до вступления этих нормативных актов в силу. «Мы должны это регулировать. Нам нужны реальные меры безопасности. Мы должны лучше понимать эту технологию», — сказал Шапиро в интервью NBC News. «Необходимо, чтобы в этих компаниях присутствовали представители третьих сторон, понимающие, чем они занимаются. Когда генеральный директор говорит: „Я не могу контролировать то, что я создал, и то, что я создаю, может уничтожить человечество“, — это не время откладывать решение проблемы на потом». Сенатор Марк Келли (демократ от Аризоны) и губернатор Иллинойса Дж. Б. Прицкер — которые, как и Шапиро, по всей видимости, также обдумывают возможность участия в выборах 2028 года — также призвали к принятию мер. Бывший президент Барак Обама также высказал предупреждение, заявив демократам на мероприятии по сбору средств для предвыборного штаба Конгресса, что у партии должен быть «очень четкий план» в отношении политики в сфере искусственного интеллекта и что он сделал бы этот вопрос одним из центральных, если бы баллотировался на президентских выборах в 2028 году.