«Машина никогда не будет твоей»: советник Ватикана по искусственному интеллекту, критикующий Питера Тиля, посещает Чили

8 июня президент Хосе Антонио Каст встретился в Ла-Монеде с технологическим магнатом Питером Тилем, соучредителем PayPal и Palantir Technologies — компании, занимающейся анализом данных для правительств и вооруженных сил. Администрация президента не раскрыла темы, обсуждавшиеся между ними, сославшись на неприкосновенность частной переписки. Встреча состоялась после того, как этот ультраправый предприниматель посетил Рим, чтобы поговорить о пришествии антихриста. Один из его критиков в Святом Престоле, Паоло Бенанти (Рим, 1973), советник Ватикана по вопросам искусственного интеллекта (ИИ), написал в издании Le Grand Continent, что карьера Тиля представляет собой «вызов самим основам гражданского сосуществования». Через пару недель после тайной встречи францисканец Бенанти посетил Чили. Один из авторов первой энциклики папы Льва XIV «Magnifica Humanitas», посвященной этическим и социальным вызовам ИИ, принял в понедельник участие в запуске Nodo IA UC — инициативы, направленной на понимание и регулирование преобразований, связанных с искусственным интеллектом, в Католическом университете Чили. «Технологии нуждаются в моральном руководстве», — заявил итальянский монах, чья работа сосредоточена на этике искусственного интеллекта, что привело его к выполнению функций консультанта Организации Объединенных Наций по данному вопросу. «Настоящий вызов заключается в том, чтобы искусственный интеллект по-прежнему оставался на службе у людей и общего блага», — добавил он. Прежде чем углубиться в свою тезу, Бенанти сделал два шага назад. Он отметил, что невозможно понять, почему ИИ так важен, не рассмотрев при этом, как мобильный телефон изменил реальность за последние два десятилетия. Смартфон, «символическое устройство нашего времени», принадлежит каждому, но программное обеспечение, позволяющее ему работать, — нет. «Могут ли владельцы iPhone отправлять файлы через AirDrop тем, у кого Android?» — спросил он во время лекции, на что аудитория ответила «нет». «Это странно, ведь устройство, которое у вас в кармане, способно на это, но его программное обеспечение не позволяет вам использовать его так, как вы хотите. Мы говорим о технологии? Или мы говорим о политике и организации? Технология — это не просто технология, это нечто большее. И те, кто контролирует ИИ, смогут контролировать многие аспекты нашей жизни», — предупредил он. «Устройство никогда не принадлежит вам, потому что оно остается подключенным к владельцу программного обеспечения, и решения принимают они. Такова природа сегодняшней реальности. Это реальность, определяемая программным обеспечением, и это действительно глубокая трансформация социальных отношений, а значит, и демократии», — заявил он. «Проблема в том, что демократия работает, если вы можете убедить других людей. Как убедить других людей в том, что демократия — это не поврежденное программное обеспечение?», — задал он в какой-то момент вопрос. Чтобы наглядно показать, почему этот «контроль над реальностью» охватывает политику, геополитику и международные отношения, он привел в качестве примера то, что только четыре самых дорогих компании мира — AWS, Google, Meta и Microsoft — в этом году собираются инвестировать в ИИ 650 000 миллионов долларов, что равно ВВП Португалии и Алжира вместе взятых. «Четыре компании вкладывают сумму, превышающую то, что может инвестировать целое государство. Они делают это для создания ИИ, но также и для его контроля», — добавил он. В том же духе он в какой-то момент подчеркнул, что, вероятно, самым сильным отрывком из книги «Magnífica Humanitas» является тот, в котором содержится предупреждение о том, что небольшая группа людей не может принимать решения за всех. «Невозможно, чтобы эта технология, когда она повлияет на общество, осталась нейтральной», — заявил он. Одной из проблем, как он отметил, является то, что цепочка ответственности, которая раньше существовала, размылась, и сегодня трудно понять, кто несет ответственность, когда за проектом стоят разработчик приложения, модель ИИ и работодатель. «Это делает систему несправедливой», — заявил францисканец и добавил, что необходимо четко различать инновации и развитие. «Инновация — это способность делать что-то быстрее. Развитие — это использование инноваций на благо общего блага, на благо различных групп людей в обществе», — сказал он. «Наша задача не в том, чтобы остановить ускорение инноваций, а в том, чтобы превратить инновации в источник развития», — добавил он. Говоря о своей сфере деятельности — этике, — он заявил, что она важна, но недостаточна, поскольку является «мягкой». «Нам нужно жесткое регулирование, которое позволит такого рода машинам оставаться на правильном пути», — заверил он. Бенанти пояснил, что ИИ представляет собой многоуровневую структуру, нижний уровень которой составляет аппаратная инфраструктура, обеспечивающая работу ИИ. Далее следует слой данных, на втором месте — модели ИИ (ChatGPT, Claude), а на верхнем слое — приложения. «Потенциал ИИ раскрывается тогда, когда у игрока есть весь этот стек», — отметила она и призвала студенческое и академическое сообщество разрабатывать альтернативы для какого-либо из этих слоев. ИИ, по её мнению, проникает в общество, обладая мультипликативным эффектом. «Может ли он стать мультипликатором богатства или справедливости?», — спросил он. «Мне кажется, что энциклика „Magnifica“ идеально отражает и рамкирует эту проблему в её контексте. „Magnifica Humanitas“ посвящена не ИИ. Она посвящена трансформации, форме власти и порядку в обществе, связанному с подобными преобразованиями», — заключил он. В эпоху, когда ИИ используется в качестве компаньона и советника, Бенанти предупредил, что придание разума объекту — это то, что мы «должны четко осознавать, что не хотим видеть в машине». Священник рассказал, что беседовал с матерью подростка, покончившего с собой после того, как у него сложилась привязанность к чат-боту. «Мы обязаны предотвратить это. Мы не машины, которые просто работают. Мы — люди, которые существуют». «Нужно уважать уязвимость партнеров. Уязвимость — это не ошибка, это дверь, которая позволяет другому человеку стать частью твоей жизни, и это мы называем романтическими отношениями. Уязвимость — это залог того, что ты не умрешь в одиночестве. Это не проблема, которую нужно устранять», — заявил он. «Другой человек — это опыт, а не расчет», — добавил он.