Крупнейшие технологические компании в основном хранят молчание после предупреждения Папы Льва о рисках искусственного интеллекта

Расширенное предупреждение Папы Льва XIV об опасностях искусственного интеллекта вызвало в основном сдержанную реакцию в американском технологическом сообществе, хотя несколько лидеров быстро поддержали призыв Ватикана к усилению государственного контроля, в то время как другие раскритиковали его как угрозу инновациям. В энциклике объемом около 42 300 слов, опубликованной в понедельник, Лев призвал к более строгому регулированию деятельности частных компаний, стоящих за бумом ИИ, к усилению защиты работников, сталкивающихся с экономическими потрясениями, и к принятию мер по защите людей от фальшивой информации, генерируемой ИИ. Он также раскритиковал «растущую легкость, с которой могут быть развернуты автономные системы вооружения». «Человечество — во всем его величии и уязвимости — никогда не должно быть заменено или превзойдено. Мы можем принять технологический прогресс, который облегчает страдания и открывает новые возможности, при условии, что мы не откажемся от самой сущности нашего человечества, а именно от способности к отношениям и любви», — написал понтифик в «Magnifica Humanitas», или «Великолепное человечество». Наиболее известные руководители компаний Кремниевой долины, занимающихся искусственным интеллектом, — в том числе Сэм Альтман, Илон Маск и Марк Цукерберг — не сразу высказали публичное мнение по поводу энциклики Леона, первой с момента его избрания главой Католической церкви. Amazon, Anthropic, Google, Meta, Microsoft, Nvidia, OpenAI и xAI не ответили сразу на запросы о комментарии во вторник. Примечательно, что высшее руководство Anthropic на протяжении многих лет выступает за введение более строгих ограничительных мер в отношении этой технологии, и по крайней мере один из ключевых деятелей компании высоко оценил обращение Лео. Кристофер Олах, соучредитель компании, появился рядом с Лео во время презентации энциклики и выступил с речью, в которой приветствовал «голоса совести», пытающиеся направлять развитие его отрасли. «Нам нужно, чтобы больше людей по всему миру — религиозные общины, гражданское общество, ученые, правительства и, по сути, все люди доброй воли — делали то, что сделал здесь Его Святейшество: относились к этому серьезно, внимательно присматривались и направляли события в лучшую сторону», — сказал Олах, согласно стенограмме его выступления, опубликованной в Интернете. «Нам нужны осведомленные критики, которые будут указывать лабораториям на наши провалы». Йошуа Бенжио, профессор и ведущий исследователь в области ИИ, которого часто называют одним из «крестных отцов» этой технологии, выразил поддержку одной из главных тем провозглашения Лео: важности того, чтобы ИИ служил всем людям и «общему благу». «Я согласен с этим мнением @Pontifex», — написал Бенжио в X, используя имя аккаунта понтифика. «Ватикан и другие международные институты могут и должны играть важную роль в глобальном диалоге по искусственному интеллекту, чтобы повысить осведомленность общественности и мобилизовать общество на решение предстоящих задач». Уилл Джонс, руководитель отдела по работе с религиозными организациями в некоммерческой организации Future of Life Institute, занимающейся предотвращением экстремальных рисков, связанных с трансформационными технологиями, заявил, что послание Лео «демонстрирует моральное лидерство, столь необходимое в эпоху, когда несколько технологических корпораций стремятся заменить людей в сфере труда, межличностных отношений и принятия решений». «Magnifica Humanitas может послужить призывом к миру, чтобы тот без стеснения вновь утвердил примат человечества, во всей его несовершенной славе, над нашими инструментами», — заявил Джонс в своем заявлении в понедельник. Предупреждение Лео о том, что мощные технологические инструменты сосредотачиваются «в руках немногих», нашло отклик у соучредителя Twitter Джека Дорси, который ответил на отрывок из послания папы односложным постом: «да». Вице-президент Джей Ди Вэнс, практикующий католик, который когда-то работал в венчурной компании Mithril Capital в Кремниевой долине, сказал NBC News в телефонном интервью во вторник, что он пробежал глазами «отрывки» и резюме послания папы. «То, что я прочитал, звучит очень глубоко и соответствует тому, чего можно было бы ожидать и на что можно было бы надеяться от лидера церкви», — сказал Вэнс. Однако не все видные деятели технологической индустрии согласились с рекомендациями Леонардо. Дэвид Сакс, известный венчурный инвестор и бывший советник Белого дома по вопросам искусственного интеллекта и криптовалют, выступил против призыва Ватикана к более жесткому государственному регулированию частных компаний, которые в значительной степени избежали строгих ограничений при второй администрации Трампа. «Папа справедливо предупреждает, что ИИ должен служить человеческому достоинству, а не становиться инструментом господства или исключения. Но если мы передадим правительствам всеобъемлющую власть над развитием ИИ во имя безопасности, как мы сможем предотвратить его использование для цензуры, слежки и контроля над гражданами — как предсказал Оруэлл в 1984 году», — написал Сакс на X, сославшись на аллегорический роман Джорджа Оруэлла. «Кто будет охранять стражей?» — добавил Сакс на латыни и английском языке. Эдди Лаззарин, генеральный партнер влиятельной венчурной компании Andreessen Horowitz, счел энциклику «неглубокой в отношении теологии искусственного интеллекта и перегруженной повторением католической социальной доктрины». «Энциклика выглядит оборонительной», — написал Лаззарин на X. «Он защищает человеческое достоинство, заявляя, что интеллект никогда не был самоцелью, при этом не объясняя, что это означает — и не объясняя, что для нас значит, когда интеллект перестанет быть исключительной чертой человека». Педро Домингос, ведущий исследователь в области ИИ и почетный профессор информатики Вашингтонского университета, отреагировал на это едкой шуткой в X: «Папа непогрешим, и в вопросах ИИ он непогрешимо ошибается». В последующем электронном письме NBC News Домингос заявил, что, по его мнению, послание Папы основано на «ряде невежественных и ошибочных представлений об ИИ». Например, Лео предупредил, что «ИИ сконцентрирует власть», — сказал Домингос, — «хотя на самом деле он распространит ее шире, чем когда-либо, точно так же, как и Интернет до него». Попытка Ватикана бить тревогу по поводу ИИ происходит на фоне того, что быстро развивающаяся технология сталкивается с растущим сопротивлением по всей территории США. В национальном опросе NBC News, опубликованном в марте, большинство избирателей — 57% — заявили, что считают риски ИИ превышающими его преимущества, по сравнению с 34%, которые высказали противоположное мнение; большинство избирателей относились к ИИ негативно.