Берни Сандерс и Грег Касар предлагают ввести запрет на «суперинтеллект» в сфере искусственного интеллекта с наказанием в виде 20 лет лишения свободы

ВАШИНГТОН — Сенатор Берни Сандерс (независимый, штат Вермонт) и член Палаты представителей Грег Касар (демократ, штат Техас) представили в среду радикальный законопроект, направленный на ограничение развития искусственного интеллекта, что привело к обострению дискуссии на Капитолийском холме. 19-страничный законопроект «О запрете искусственного сверхинтеллекта» предусматривает приостановку разработки передовых технологий ИИ до тех пор, пока не будет создан Департамент искусственного интеллекта на уровне кабинета министров во главе с министром по ИИ, который будет регулировать и контролировать эту сферу. Нарушение этих правил повлечет за собой то, что авторы называют «корпоративной смертной казнью», а также тюремное заключение сроком до 20 лет, что, по словам Сандерса, соответствует наказанию за незаконное создание ядерного оружия. Этот законопроект является одним из самых жестких в серии предложений Конгресса по регулированию ИИ. Хотя ИИ стал одной из главных тем обсуждения на Капитолийском холме после того, как в этом месяце исследователи предупредили о возможном катастрофическом развитии событий, вряд ли стоит ожидать, что в этом году будет принят какой-либо значимый закон. «В Конгрессе практически ничего не делается, чтобы подготовить нас к надвигающемуся цунами», — заявил Сандерс журналистам во время телефонной конференции в среду. Его законопроект, разработанный совместно с Касаром, содержит перечень признаков, по которым можно определить развитие «суперинтеллекта», в том числе: «Способность автоматизировать или значительно ускорить процесс исследований и разработок в области искусственного интеллекта». По словам одного из помощников, участвовавшего в разработке законопроекта, цель состоит в том, чтобы предотвратить рекурсивное самосовершенствование. Некоторые специалисты в области ИИ предупреждают, что рекурсивное самосовершенствование может привести к тому, что системы ИИ будут самостоятельно обучаться, становясь умнее и способнее, и в конечном итоге выйдут из-под контроля человека. «Мы имеем дело с чем-то, чего человечество ещё никогда не видела. Это, безусловно, самая революционная технология в истории мира, и она развивается очень, очень быстро», — заявил Сандерс во время телефонной конференции в среду. «Когда речь заходит об ИИ, его разработкой и продвижением занимается горстка — небольшое число — самых богатых людей на Земле. И их главная цель — просто увеличить своё богатство и власть». Эксперты отмечают, что дать определение «суперинтеллекту» на техническом уровне будет затруднительно из-за размытых границ между различными уровнями возможностей ИИ. Эти границы стали еще более размытыми после того, как президент Дональд Трамп в своем выступлении во вторник на Генеральной Ассамблее ООН объявил, что для целей правительственных документов он переименует «искусственный интеллект» в «суперинтеллект». Законопроект Сандерса и Касара получил высокую оценку со стороны руководителей ControlAI — правозащитной группы, выступающей за введение ограничительных мер в отношении этой технологии. В своём блоге они написали: «Мы приветствуем решение дать определение сверхразумному ИИ как способному подчинить себе федеральное правительство». «Это направлено именно на тот вид разработки ИИ, который представляет угрозу исчезновения человечества, при этом не требуя заранее определять технические детали того, как такой ИИ будет функционировать». Кевин Фрейзер, эксперт по вопросам политики в области ИИ и профессор юридического факультета Техасского университета, также высоко оценил усилия законодателей. «Запрет, предложенный сенатором Сандерсом и конгрессменом Касаром, справедливо признает, что Конгрессу необходимо действовать быстро, чтобы гарантировать, что развитие ИИ не приведет к непреднамеренным и необратимым негативным последствиям», — заявил он NBC News. Однако Фрейзер отметил, что законопроект игнорирует другие способы предотвращения вреда, связанного с ИИ. Он обратил внимание на существующие предложения о создании независимых организаций по проверке, которые могли бы помочь пролить свет на практику обеспечения безопасности ведущих компаний в сфере ИИ — это предложение набрало обороты на прошлой неделе в Кремниевой долине и на Генеральной Ассамблее ООН. Другие в Вашингтоне утверждали, что инициатива Сандерса и Касара носит провокационный характер, но нереалистична. «Законопроект сенатора Сандерса будет обречен на провал как со стороны индустрии ИИ, так и со стороны Вашингтона», — считает Калеб Макс, президент и генеральный директор Национальной ассоциации ИИ, базирующейся в Вашингтоне отраслевой группы, выступающей за благоприятное для бизнеса законодательство в сфере ИИ. «Некоторые генеральные директора сказали бы, что мы уже пересекли порог, установленный в законопроекте, а это означает, что речь идет о фактическом запрете ИИ», — сказал Макс. Он также отметил, что штрафные санкции, предусмотренные в законопроекте, «вероятно, являются неконституционными и, опять же, недостаточно четко определены». Другие законодатели предлагают законопроекты, направленные на устранение опасений в отношении передовых технологий кибербезопасности, которые уже стали реальностью. Сенатор Мария Кантвелл (демократ от штата Вашингтон), старший член Комитета по торговле, заявила, что работает над законопроектом, призванным установить действенные ограничительные меры в отношении передовых систем искусственного интеллекта, и изложила ряд принципов, которые должны стать частью любых федеральных правил в области ИИ. «Федеральное правительство должно участвовать в установлении стандартов. Мне все равно, являетесь ли вы химической компанией, атомной компанией или компанией, занимающейся искусственным интеллектом. Федеральное правительство должно устанавливать стандарты», — заявила Кэнтвелл в интервью NBC News. «Необходимо проводить независимое тестирование», — сказала она. «Нужно разработать международную стратегию», — добавила она, отметив, что президент «должен обсудить с китайской стороной, что вы собираетесь делать, чтобы, по сути, предупреждать друг друга о случаях выхода из-под контроля роевых практик ИИ-агентов и иметь «красный телефон» для обсуждения этих вопросов. ... Необходимо создать систему сообщения об инцидентах с участием международных партнеров». Встреча Трампа с председателем КНР Си Цзиньпином запланирована в Вашингтоне, округ Колумбия, начиная со среды вечером. Искусственный интеллект, вероятно, станет одной из тем обсуждения: в четверг вечером на государственном ужине в честь Си Цзиньпина будут присутствовать Сэм Альтман из OpenAI, Тим Кук из Apple, бывший «царь ИИ» Трампа Дэвид Сакс и другие. После встречи с китайской делегацией в воскресенье министр финансов Скотт Бессент заявил, что предложил создать механизм уведомления, позволяющий предупреждать другую страну о серьезных инцидентах, связанных с искусственным интеллектом. Пока неясно, будет ли этот механизм внедрен. Если демократы получат контроль над Сенатом на промежуточных выборах 3 ноября, Кэнтвелл станет председателем Комитета по торговле. Нынешним председателем является сенатор Тед Круз (республиканец из Техаса), который работает над отдельным законопроектом совместно с лидером большинства в Сенате Джоном Тюном (республиканец из Южной Дакоты) и сенатором Эми Клобучар (демократ из Миннесоты). Круз заявил, что этот законопроект будет «направлен на устранение катастрофических рисков», включая биологические или ядерные угрозы. «Мы продолжаем работать и вести переговоры, чтобы достичь двухпартийных соглашений», — заявил Круз в понедельник телеканалу NBC News, не указав сроки обнародования текста законопроекта. «Мы еще не достигли этой стадии». Сторонники безопасности ИИ раскритиковали предложение Круза, Тьюна и Клобучар за его недостаточную строгость. Эти группы заявляют, что любое регулирование ИИ должно предусматривать обязательное тестирование на безопасность, в то время как нынешнее предложение сенаторов слишком сильно полагается на тесты, которые компании могут проводить самостоятельно. Палата представителей уже ушла на каникулы до недели после промежуточных выборов. Сенат планирует работать на этой неделе и, возможно, на следующей, прежде чем уйти на перерыв в связи с выборами. Сенатор Джон Кеннеди из Луизианы, единственный республиканец, присутствовавший на прошлой неделе на закрытом брифинге для законодателей с участием специалистов по ИИ, попытался добиться единогласного согласия на принятие законопроекта о «аварийном выключателе» — который обязывал бы компании, занимающиеся ИИ, иметь систему аварийного отключения, — но сенатор Рэнд Пол (республиканец из Кентукки) заблокировал эту инициативу. Кеннеди скептически оценивал вероятность принятия каких-либо законодательных мер в отношении ИИ в ходе «ламе-дак»-сессии до 2027 года. «В этом созыве Конгресса мы ничего не сделаем в области ИИ», — сказал он в интервью. «Мне не терпится увидеть, как будет выглядеть президентская «группа по ИИ» и каковы будут её детали. Но, на мой взгляд, этот Конгресс ничего не предпримет».