Билл Гейтс считает, что саморегулирования компаний, занимающихся искусственным интеллектом, недостаточно, и что правительства должны участвовать в контроле

Соучредитель Microsoft и миллиардер-филантроп Билл Гейтс в среду призвал законодателей в Вашингтоне регулировать развитие искусственного интеллекта — спустя несколько недель после того, как руководители некоторых крупнейших в стране лабораторий по ИИ пришли к согласию о необходимости замедлить темпы развития ИИ. «Никто не считает, что саморегулирования достаточно», — заявил Гейтс в интервью программе NBC News «Meet the Press», полная версия которого выйдет в эфир в воскресенье. На вопрос ведущей Кристен Уэлкер о том, нужно ли принимать соответствующее законодательство в Вашингтоне, Гейтс ответил: «Безусловно». «Необходимо, чтобы правоохранительные органы и политики включились в обсуждение того, как должны выглядеть меры безопасности и механизмы контроля», — сказал он. «И это должно быть обязательным требованием. Для отрасли это станет небольшой дополнительной нагрузкой, но не приведет к резкому замедлению их деятельности». Ранее в этом месяце генеральные директора Anthropic и OpenAI, двух крупнейших в стране лабораторий по ИИ, согласились с тем, что гонка по разработке мощных систем искусственного интеллекта должна замедлиться. Их заявления по этому вопросу прозвучали после того, как информатор, недавно уволившийся из Anthropic, Джейкоб Коксон, публично заявил, что «ни одна из компаний не действует ответственно. Они мчатся на всех парах к самосовершенствующемуся сверхразуму и играют нашими жизнями». «Люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия», — добавил Коксон в серии постов в социальных сетях и интервью на той неделе. В интервью, данном в среду, Гейтс не стал преуменьшать риск того, что ИИ может уничтожить человечество через несколько лет, но призвал американцев не игнорировать опасность того, что ИИ может быть использован злоумышленниками для нанесения масштабного ущерба уже сегодня. «ИИ, безусловно, достаточно мощный, чтобы спровоцировать события, которые, как вы понимаете, могут привести к гибели миллиарда человек. Понимаете, даже несмотря на то, что достичь 100-процентной уверенности довольно сложно, никогда еще не было оружия, столь же мощного, как сочетание людей со злыми намерениями и новейших инструментов ИИ», — сказал он. В интервью программе «Meet the Press» в начале этого месяца Коксон заявил, что компаниям, занимающимся ИИ, следует разрешить саморегулироваться. «Я действительно считаю, что люди, возглавляющие эти лаборатории, особенно судя по их недавним заявлениям, абсолютно искренни. Они хотели бы сами замедлить темпы развития», — сказал он. Несколько недель назад, выступая в той же программе, спикер Палаты представителей Майк Джонсон (республиканец из Луизианы) отказался созывать законодателей Палаты представителей обратно в Вашингтон для принятия закона, регулирующего темпы развития ИИ, заявив, что он будет полагаться на компании, занимающиеся ИИ. «Мы должны установить определенные ограничения, принять меры безопасности, чтобы ИИ не вышел из-под контроля», — сказал спикер, добавив, что, хотя руководители компаний, занимающихся ИИ, призывали к замедлению темпов развития, они пока не предложили пути продвижения, предполагающего принятие федерального законодательства. «На сегодняшний день у них самих даже нет ответа. Поэтому мы не можем торопиться и заставлять Конгресс принимать меры, которые могли бы нанести ущерб национальной безопасности», — сказал Джонсон. В своём эссе, призывающем к замедлению темпов развития ИИ, генеральный директор Anthropic Дарио Амодей конкретно призвал к глобальному и федеральному сотрудничеству. «Наиболее эффективный способ регулирования темпов — это нормативное регулирование, охватывающее все передовые американские компании в сфере ИИ, поскольку оно распространяется даже на тех, кто не желает сотрудничать добровольно», — написал он, добавив далее в статье: «Глобальное регулирование темпов потребует сотрудничества с Китаем — авторитарной страной, обладающей на сегодняшний день самыми передовыми возможностями в области ИИ». Сэм Альтман, генеральный директор OpenAI, в среду выступил перед собранием Организации Объединенных Наций, призвав к внедрению международных стандартов для «измерения возможностей, оценки рисков, определения достаточности мер безопасности и сохранения значимого контроля со стороны человека» над ИИ. Основатель и генеральный директор Meta Марк Цукерберг не согласился с таким подходом. «Я не думаю, что нам нужна какая-то общеотраслевая координация», — сказал он в интервью NBC News, опубликованном в четверг. «Я считаю, что каждая лаборатория должна уделить этому время, и когда она видит, что есть проблемы, просто уделить столько времени, сколько необходимо внутри компании, чтобы в принципе убедиться, что работа ведется безопасно». На уровне штатов некоторые губернаторы уже приступили к процессу регулирования компаний, занимающихся ИИ, и центров обработки данных, которые они используют для обеспечения своей деятельности. В Калифорнии губернатор Гэвин Ньюсом на прошлой неделе подписал распоряжение о создании экспертного совета, которому поручено разработать план по укреплению законодательства штата в области безопасности ИИ. На этой неделе в штатах Мэриленд и Нью-Йорк губернаторы Уэс Мур и Кэти Хочул также обнародовали планы, направленные на усиление регулирования ИИ в своих штатах. Распоряжение Мура предусматривает «трехкомпонентный подход» к регулированию, а распоряжение Хочул — создание нового Управления по цифровым инновациям, управлению, целостности и доверию, которое будет контролировать соблюдение законодательства компаниями, работающими в сфере ИИ. Выступая на этой неделе на сессии Организации Объединенных Наций, посвященной ИИ и развитию человеческого потенциала, президент Microsoft Брэд Смит отверг представление о том, что компании, занимающиеся ИИ, должны ждать введения федерального регулирования, чтобы сбавить обороты, и раскритиковал их за постоянную гонку друг с другом в создании более совершенных продуктов на базе ИИ. «Представьте на мгновение, что в мире есть только две крупные компании, производящие коммерческие самолеты, — сказал Смит. — Представьте, что кто-то заходит в ваш кабинет и говорит: „Я знаю, что мы участвуем в гонке за то, чтобы первыми выпустить следующий самолет, но нас беспокоит, что самолет разбится и люди погибнут“. Сказали бы вы: „Мне нужно выиграть эту гонку“?» — спросил Смит. «Или вы сказали бы: „Я поставлю безопасность своих пассажиров и общественности выше своей победы в этой гонке“? Вот в чем заключается фундаментальный вопрос».