Anthropic поддерживает законопроект Калифорнии, который предписывает меры по обеспечению прозрачности искусственного интеллек

В понедельник компания Anthropic, занимающаяся разработкой искусственного интеллекта, стала первой крупной технологической компанией, поддержавшей законопроект штата Калифорния, который будет регулировать самые передовые модели ИИ. Предложенный сенатором штата Скоттом Винером, законопроект S.B. 53, в случае его принятия, создаст первые широкие правовые требования для крупных разработчиков моделей ИИ в Соединенных Штатах. Среди прочих условий, законопроект потребует от крупных компаний, предлагающих услуги в области ИИ в Калифорнии, создавать, публично делиться и соблюдать ориентированные на безопасность руководящие принципы и процедуры, определяющие, как каждая компания пытается снизить риски, связанные с ИИ. Законопроект также усилит требования к информаторам, создав более надежные механизмы для сотрудников, чтобы они могли сообщать о серьезных или потенциально катастрофических рисках, которые в противном случае могли бы остаться незамеченными. «С SB 53 разработчики могут конкурировать, обеспечивая при этом прозрачность в отношении возможностей ИИ, которые представляют риск для общественной безопасности», — говорится в заявлении Anthropic. Законопроект в значительной степени кодифицирует существующие добровольные обязательства крупнейших мировых компаний, занимающихся искусственным интеллектом, подчеркивая прозрачность и внимание к рискам, связанным с передовыми системами искусственного интеллекта. Например, такие компании, как Anthropic, OpenAI, Google и Meta, уже взяли на себя обязательства по оценке того, как их продукты могут быть использованы в злонамеренных целях, и по разработке мер по предотвращению этих угроз. Недавние исследования показали, что модели искусственного интеллекта могут помочь пользователям осуществлять кибератаки и снизить барьеры для приобретения биологического оружия. S.B. 53 сделает многие из этих обязательств обязательными, требуя от компаний публиковать на своих веб-сайтах свои подходы к рискам ИИ и предоставлять сводные данные об оценках «катастрофических рисков» непосредственно в государственные органы. Новый законопроект Калифорнии будет применяться только к компаниям, занимающимся ИИ, которые создают передовые модели, требующие огромных вычислительных мощностей. В рамках этой подгруппы компаний, занимающихся ИИ, самые строгие требования законопроекта будут применяться только к тем, чей годовой доход превышает 500 миллионов долл. S.B. 53 также предусматривает создание системы экстренного оповещения, с помощью которой разработчики ИИ или представители общественности смогут сообщать о критических инцидентах, связанных с безопасностью модели. «Anthropic является лидером в области безопасности ИИ, и мы очень благодарны компании за ее поддержку», — сказал сенатор Винер в интервью NBC News. Законопроект, по всей видимости, будет принят, поскольку в ходе недавних голосований он получил подавляющую поддержку как в Ассамблее, так и в Сенате Калифорнии. Законодательный орган Калифорнии должен провести окончательное голосование по законопроекту до вечера пятницы. «Передовые компании в области ИИ взяли на себя много добровольных обязательств по обеспечению безопасности, но зачастую не выполняют их. Этот закон делает небольшой, но важный первый шаг к повышению безопасности ИИ, делая многие из этих добровольных обязательств обязательными», — сказал NBC News исполнительный директор Центра по безопасности ИИ Дэн Хендрикс. «Хотя для управления рисками ИИ нам нужно гораздо более строгое регулирование, S.B. 53 — и публичная поддержка этого закона со стороны Anthropic — являются обнадеживающим событием». Однако отраслевые торговые ассоциации, такие как Ассоциация потребительских технологий (CTA) и Палата прогресса, крайне критично относятся к этому законопроекту. В публикации на X на прошлой неделе CTA заявила: «Законопроект California SB 53 и аналогичные законопроекты ослабят лидерство Калифорнии и США в области ИИ, поскольку приведут к перемещению инвестиций и рабочих мест в штаты или страны с менее обременительными и противоречивыми правовыми рамками». S.B. 53 — это обновленная, несколько более узкая версия аналогичного законопроекта, предложенного сенатором Винером в прошлом году. Этот законопроект, получивший название S.B. 1047, привлек широкое внимание со стороны разработчиков ИИ, включая OpenAI и изначально Anthropic, а также отраслевых торговых групп, таких как Chamber of Progress, и известных инвестиционных компаний Кремниевой долины, таких как Andreesen Horowitz. Критики подвергли критике сферу действия S.B. 1047 и формулировки о потенциальных штрафах в случае, если модели ИИ причинят «критический ущерб». В отличие от S.B. 53, S.B. 1047 требовал от разработчиков проходить ежегодные независимые аудиты на предмет соблюдения закона и запрещал разработчикам выпускать модели, которые несли «необоснованный риск» того, что люди, использующие модель, могут причинить критический вред. S.B. 1047 был принят законодательным собранием штата Калифорния, но в конечном итоге был ветирован губернатором. Гэвин Ньюсом, который заявил, что законопроект затормозит развитие ИИ и «замедлит темпы инноваций». Несколько комментаторов и сторонников законопроекта утверждали, что критики неверно истолковали содержание законопроекта и что лоббирование со стороны промышленности сыграло ключевую роль в наложении вето на законопроект. После вето Ньюсом сформировал рабочую группу, которой было поручено подготовить рекомендации по пересмотренной версии S.B. 1047. Под руководством группы экспертов по ИИ рабочая группа представила свои рекомендации в июне в отчете «California Report on Frontier AI Policy» (Отчет Калифорнии о передовой политике в области ИИ). Первоначально представленный в январе, S.B. 53 включает в себя многие рекомендации рабочей группы, подчеркивая важность прозрачности и проверки обязательств ведущих лабораторий ИИ. «Мы разработали законопроект на основе этого отчета», — сказал сенатор Винер. «В то время как S.B. 1047 был скорее законопроектом, ориентированным на ответственность, S.B. 53 больше сосредоточен на прозрачности». Хелен Тонер, временный директор Центра безопасности и новых технологий Джорджтаунского университета, подчеркнула растущий консенсус в отношении необходимости более глубокого понимания практик передовых компаний в области ИИ. «S.B. 53 — это в первую очередь законопроект о прозрачности, и это не случайно, — сказала Тонер. — Необходимость большей прозрачности со стороны передовых разработчиков ИИ — одна из идей политики в области ИИ, которая пользуется наибольшим консенсусом». Anthropic согласна с этим. «Мы давно выступаем за продуманное регулирование ИИ, и наша поддержка этого законопроекта является результатом тщательного анализа уроков, извлеченных из предыдущей попытки Калифорнии регулировать ИИ», — говорится в заявлении Anthropic. Любое регулирование ИИ, принятое в Калифорнии, вероятно, окажет значительное влияние на развитие ИИ на национальном уровне и во всем мире, поскольку в Калифорнии расположены десятки ведущих мировых компаний, занимающихся ИИ. «Калифорния действительно является сердцем инноваций в области ИИ, и мы также должны быть в центре творческого подхода к безопасности ИИ», — заявил сенатор Винер. Роль законодательства штатов является ключевым вопросом в дебатах по политике в области ИИ, поскольку участники отрасли, в том числе конкурент Anthropic, компания OpenAI, утверждают, что необходим комплексный, единый подход к ИИ на федеральном уровне, а не коллаж из законов штатов. Недавно принятый пакет федеральных расходов Big Beautiful Bill почти включал поправку, запрещающую штатам принимать законодательство, связанное с ИИ, в течение 10 лет, но поправка была отменена в результате ночного пересмотра. Директор OpenAI по глобальным вопросам Крис Лехейн отреагировал на заявление Anthropic, подтвердив предпочтение OpenAI в пользу федерального регулирования. «Америка лидирует благодаря четким, общенациональным правилам, а не набору разнородных государственных или местных нормативных актов», — написал он в понедельник днем на LinkedIn. Anthropic признала это противоречие в своем заявлении в понедельник, но заявила, что S.B. 53 — это шаг в правильном направлении, учитывая бездействие федеральных властей. «Хотя мы считаем, что вопросы безопасности передовых технологий искусственного интеллекта лучше всего решать на федеральном уровне, а не с помощью разрозненных государственных нормативных актов, мощные достижения в области искусственного интеллекта не будут ждать консенсуса в Вашингтоне», — пишет Anthropic. «В идеале в этой сфере должен быть принят комплексный, строгий федеральный закон, направленный на обеспечение безопасности и инноваций. Но этого не произошло, поэтому Калифорния обязана действовать», — сказал сенатор Винер. «Я тоже предпочел бы федеральное регулирование, но не буду ждать этого с затаенным дыханием».