Энциклика, которая — это гораздо больше, чем просто искусственный интеллект

15 мая этого года Папа Лев XIV подписал свою первую энциклику «Magnifica humanitas» — текст из 245 параграфов, который на 54 страницах посвящен «защите человеческой личности в эпоху искусственного интеллекта (ИИ)». Подавляющее большинство тех, кто высказывался по этому поводу, просто не читали ее, а лишь обсуждали эту тему. Напротив, я сосредоточиваюсь на энциклике, потому что больше, чем ИИ, меня интересует попытка понять Папу: что его беспокоит, а что нет; на что он обращает внимание, а на что нет, и т. д. В связи с этим я поговорил с испанцем или мексиканцем? Томас де Меркадо (1525–1575), монах, получивший степень магистра теологии в Мехикоском университете и бывший лектором в доминиканском монастыре в этом городе. По словам Оресте Попеку, он перенес в Новый Мексико идеи испанских схоластов, противостояв — так же, как и Хуан де Матьенсо — объективной теории стоимости, хотя ни один из них не знал ни о жизни, ни о творчестве, ни о достижениях другого». – Попеску утверждает, что его работа, как и работа де Матьенсо, побуждает к формулировке гипотезы об американском происхождении количественной теории денег. – Со своей стороны я высказал следующее: «Следует заметить, что стоимость и цена денег, а также их оценка (последнее – покупательная способность) – это не одно и то же. Очень наглядный пример: в Индии деньги стоят столько же, сколько здесь, и столько же, сколько в Испании; но их престиж везде очень разный. В Индии их ценят гораздо меньше, чем в Испании. «Из всех городов Индии меньше всего этих металлов приходится на Севилью, поскольку этот город принимает в себя все лучшее, что там есть. Такое отношение и оценка обусловлены прежде всего тем, что здесь наблюдается либо большое изобилие, либо дефицит этих металлов, а поскольку в тех краях (в Индии) они добываются и собираются, то здесь их не ценят». Для современных людей текст сложен, но связь между количеством денег и ценами ясна. «– Помогите мне понять Папу в связи с текстом, который он только что обнародовал». – С удовольствием, зная, насколько рискованна эта задача, ведь одна и та же энциклика порождает более чем одно толкование. В первую очередь следует подчеркнуть смелость Папы, ведь в своей первой энциклике он не побоялся затронуть актуальный, но весьма спорный вопрос. К тому же, как вы правильно заметили, речь идет о предмете, высказывания по которому могут устареть в короткие сроки, и о котором даже специалисты знают мало. – Он вписал ИИ в рамки Социальной доктрины Церкви (СДЦ). – Будущие историки скажут, есть ли «до и после» ИИ, но верно то, что она не упала с неба, как и ни одно из других человеческих изобретений. Поэтому Лев XIV включил ее в СДЦ (параграфы 17–45 энциклики прекрасно ее описывают). «Официально» зародившаяся в 1891 году, когда Лев XIII опубликовал энциклику Rerum novarum (Новые времена), она представляет собой свод доктрин, затрагивающий многие вопросы, а не только отношения между рабочими и работодателями. Я горячо рекомендую прочитать эту энциклику, в частности то, что в ней говорится о коллективизме — за четверть века до Октябрьской революции. «— Почему я упомянул об этом?» — Потому что, как гласит подзаголовок энциклики, она посвящена «защите человеческой личности в эпоху искусственного интеллекта». Что подводит меня к центральному моменту, который я хочу подчеркнуть решительно, выражаясь не слишком ватиканскими терминами. – Давайте, пожалуйста. – Я имею в виду призыв к личной ответственности, постоянную тему в Церкви, но также актуальную в контексте ИИ. Как тем, кто непосредственно вовлечен в этот процесс, так и людям в целом, Лев XIV говорит нам: не делайте из себя и-д-и-о-т-о-в! Потому что кто разрабатывает алгоритмы? Кто хранит данные? Кто обсуждает это в СМИ? Люди. Просить государства нейтрализовать зло, которое может прийти в голову некоторым людям, на практике — это слишком. Призыв к личной ответственности может показаться утопическим, но ему нет альтернативы, и поэтому его следует подчеркивать. «ИИ, как и любое изобретение, можно использовать как во благо, так и во зло». – Это так. С помощью цифровых технологий я могу улучшить медицинскую диагностику, но также могу сфабриковать компрометирующие фотографии, чтобы разрушить чью-то жизнь или вымогать деньги. Кстати, о последнем: кто изобретает «общие» алгоритмы, разрабатывает ли их с этой целью, или же какой-то злоумышленник взламывает существующие программы, чтобы творить ужасы? Я не знаю, но на ум приходят атомная энергия и динамит — изобретения, которые спасли жизни, но также привели к гибели многих невинных людей. «– По мнению Леона XIV, ИИ представляет собой новинку в том, что она возникает из частных усилий, предпринимаемых немногими, что приводит к приватизации части «власти». «– Я не знаю, мало их или много, договорились ли они между собой или конкурируют. Но изучение истории показывает, что подавляющее большинство изобретений, если не все, были сделаны представителями частного сектора, а не государствами. В начале XX века в США существовал спрос на государственное вмешательство с целью нейтрализовать власть «баронов» нефти, стали и железных дорог. Стоим ли мы перед чем-то подобным? Иными словами, кого нам следует бояться больше: создателей алгоритмов и хранителей данных или чиновников, которые хотят защитить нас от этих злодеев? В Аргентине 2026 года нелегко ответить на этот вопрос. «– Папское утверждение, по меньшей мере, спорно». – Что не должно нас удивлять в столь обширном тексте. Полагаю, он имеет в виду то, что он сказал, что война не является частью человеческой природы, что, по меньшей мере, является спорным утверждением. Роберт Джон Исраэль Ауманн, лауреат Нобелевской премии по экономике, подверг её сомнению в своей Нобелевской лекции, озаглавленной как раз «Война и мир» (Нобелевский фонд, 8 декабря 2005 г.), когда он привёл данные — цитирую по памяти — о том, что лишь в течение 500 из последних 2500 лет истории нигде не велось ни одной войны. Одно дело – осуждать войну с этической точки зрения, и совсем другое – опровергать ее на фактологическом уровне. Позволю себе перефразировать папское утверждение следующим образом: «Добропорядочные люди должны бороться – без кровопролития – за то, чтобы нам, людям, было выгодно решать наши конфликты мирным путем», и эта борьба по своей природе является постоянной...» – Одним словом. – Говоря футбольным языком, поскольку мы находимся в преддверии Чемпионата мира, основной посыл Папы Льва XIX – это призыв перейти от логики трибун к логике игрового поля. Это очень важно. – Дон Томас, большое спасибо.