МАДРИД - Мы стоим перед новым поворотным моментом в истории. «Он усугубляется дебатами о том, сможем ли мы как-то контролировать действия искусственного интеллекта, порождающего угрозы для судьбы человечества. Разумеется, не может быть и речи о признании достижений, столь же очевидных, сколь и необычных, в самых разных областях знаний. Человек до сих пор играл решающую роль в этих достижениях: «Он творил чудеса. От коммуникаций до медицины, от образования и космических исследований до трудовых отношений, отдыха, энергетики и логистики, искусства, транспорта, промышленной, торговой и сельскохозяйственной деятельности. Технология, основанная на совокупной информации огромных баз данных, изменила все, и ее проекция на время ставит под вопрос даже судьбу институтов нашей культуры и демократии как системы управления. «Нет необходимости заходить так далеко и хватать программистов алгоритмов автомобилей без водителя за горло, чтобы заставить их отпустить, если бы они учли несколько простых вещей, как комментирует Фрэнк Паскуале, профессор права в Корнельском университете: в будущем террористам не придется набирать смертников, если они уже смогут перевозить взрывчатку в самоуправляемых автомобилях». «Есть тысячи подобных вопросов в этой категории парадоксов прогресса, но центральным останется вопрос о том, позволим ли мы крупным субъектам неорганической природы вторгаться в человеческие святыни, не противопоставляя им этические и правовые нормы». Одни говорят «да», другие - «нет». Одни говорят, что у машин нет сознания. Что у машин в принципе нет сознания и они не могут его смоделировать. Я решил взять дело в свои руки и спросить у ChatGPT: «- Давайте серьезно. Вы способны отличить добро от зла? -Он потратил секунду, чтобы ответить: «Нет, у меня нет совести или способности колебаться между добром и злом, как у человека. Я - искусственный интеллект, созданный для обработки и генерации информации на основе шаблонов и алгоритмов». „Я вернулась к вопросу: “Можете ли вы представить себе день, когда у вас появится совесть и собственные цели? Он ответил: «Это интересный вопрос, и я бы изучил идею о том, что значит обладать этими качествами», - сказал он в том неуловимом стиле, который характерен для него в таких вопросах». »В том же осторожном ключе, что и Киссинджер, Папа Бергольо выступил на встрече G7 с одним из своих наименее противоречивых посланий в этом году. Армен Аванесян, австрийский философ, автор книги «Мета-фьючерс. Перспектива грядущего мира», утверждает, что мир предстает перед нами как секретный код в руках нескольких монополий, которые пользуются интерпретационным суверенитетом, нарушаемым только шаманствующими еретиками, проклятыми хакерами. Это объясняет решение Верховного суда Аргентины от 2022 года, в котором говорится о том, что настало время откинуть завесу алгоритмической «непрозрачности». «В центре внимания те, кто управляет этим технологическим миром. В конце августа прошлого года общая капитализация пяти крупнейших технологических компаний - Microsoft, Apple, Nvidia, Alphabet (Google) и Amazon - составляла 12,8 триллиона долларов. Говоря более понятным языком, это примерно в двадцать раз больше ВВП Аргентины. Некоторые из этих гигантов ведут открытые споры об использовании интеллектуальной собственности на журналистский медиаконтент, не ограничиваясь шаткими соглашениями, которые периодически продлеваются. Защищая свои права на интеллектуальную собственность, СМИ требуют прекратить «бесплатный обед» и заставить сети и поисковые системы соблюдать три золотых правила: согласие, вознаграждение и авторство. 75 лет назад Алан Тьюринг, основоположник компьютерной науки, задался вопросом, каким условиям должна соответствовать машина, чтобы считаться искусственно интеллектуальной. Тьюринг сказал, что это произойдет, когда у нее появятся вспышки автономного поведения и будет проблематично отличить человеческую речь от машинной. И вот, благодаря монументальным массивам данных, deepfakes сегодня воссоздают не только наш голос, но и наш образ. Момент, предсказанный Тьюрингом, наступил много лет назад. Его последствия распространились среди всплесков восхищения, удивления и постепенно нарастающего беспокойства. Некоторые из инструментов цифрового применения сейчас находятся в руках 4,5 миллиарда мужчин и женщин, или более половины человечества. Темпы этой революции могут ускориться, сказал Бергольо, «с появлением квантовых компьютеров, которые работают не с бинарными схемами (полупроводниками или микрочипами), а в соответствии с четко сформулированными законами квантовой физики». Эксперты в этой непростой дисциплине говорят, что для работы процессоров такого рода потребуются отрицательные температуры (около 270 градусов), и это надолго задержит джинна внутри лампы. «Уже было достаточно поводов задуматься о будущем человечества с тех пор, как мы начали бросать вызов балансу экосистемы Земли и законам климатического порядка. С этой точки зрения мы, как и наши ничего не подозревавшие предки времен промышленной революции, заслужили упрек в том, что открыли разрушительную эпоху, несмотря на развитие, достигнутое во многих других областях. «Мы определяем новый час - час антропоцена - в геологических терминах воздействием человека на природу, а в социологических - презрением к уничтожению огромного количества флоры, фауны, почв и морей, а также последствиями, которые это разграбление, если его не остановить, будет иметь для физического и духовного здоровья будущих поколений. Вопросы о взаимоотношениях между технологиями и человеческой идентичностью летают над этим этажом. И есть даже те, кто доходчиво говорит о вере Средневековья и Разуме Просвещения, предшествовавшем Французской революции, имея в виду силу, которая в итоге будет двигать историю в мире, управляемом цифровыми машинами, а не людьми, которые начинают с того, что теряют навыки, когда их заменяют технологии. «Поэтому, если произойдет гибель библейского масштаба, никто не сможет сказать, что мы не обратили внимания на то, что технологические инструменты должны применяться на благо человечества, а не для того, чтобы унизить его достоинство или привести к исчезновению. Что еще могло бы стать пророческим исполнением слова Марвина Мински, профессора Массачусетского технологического института и одного из отцов искусственного интеллекта, умершего много лет назад, о том, что в 2034 году машины обретут самосознание и возьмут мир под свой контроль? Карл Поппер в книге «Беды историцизма» утверждает, что по строго логическим причинам предсказать будущее невозможно. На ход истории сильно влияют новые знания, и именно поэтому мы не можем предвидеть сегодня то, что узнаем только завтра. В политологии нас слишком часто одолевают пророческие неудачи, которые мы видим ежедневно и, прежде всего, когда обмениваемся мнениями с правителями и политологами: «Как нам найти золотую середину, которая в союзе этики и политики позволит машине действовать в качестве инструмента автономного обучения в войнах и в то же время не испортит другие полезные достижения человечества? Где найти мудрость, которая убережет нас от парализующей палеолитической технофобии, но и от дерзости воплощения чрезмерной технофилии? В этих терзающих размышлениях нельзя забывать Поппера: наука принципиально призвана обострять конкуренцию между гипотезами и строгостью эксперимента». В своем послании G7 Берголио не согласился с мнением, что наблюдения, полученные с помощью такого механизма вычислений, как логарифмы, наделены неопровержимой уверенностью и универсальностью. В более грубых терминах, чем те ученые академики, с которыми якобы консультировался Папа, алгоритм - это конечный набор математических операций, выполняемых в определенном порядке с целью получения результата. Бергольо спустил на землю конкретный случай, вызывающий беспокойство. Он обратил внимание на генеративные программы искусственного интеллекта, используемые для помощи судебным судьям в назначении домашнего ареста заключенным. Он отметил, что ИИ готов по запросу суда рассмотреть возможность рецидива в совершенном преступлении в соответствии с заранее определенными категориями: поведение в тюрьме, психоаналитическая оценка и так далее. Алгоритм также опирается на другие данные по таким вопросам, как этническая принадлежность, уровень образования, способности и т. д. подсудимого или осужденного. Папа задался вопросом, как мы узнаем, свободны ли эти категории оценки от предвзятости. Как машина сможет оценить тот важнейший факт, что человек - существо постоянно развивающееся, именно потому, что он - незавершенное существо, и как она сможет учесть вариации человеческой чувствительности? Это мнение разделяют религиозные лидеры различных конфессий: христиане, иудеи, мусульмане, буддисты и даже зороастрийцы, о чем свидетельствуют всемирные встречи. «После неудачи Фрэнсиса Фукуямы, который, возможно, из интеллектуальной поспешности, говорил о конце истории после распада советской империи и тоталитарной химеры вдохнуть жизнь в „нового человека“, никто не вернулся к такому остывшему определению. В 1990-х годах Кэтрин Хейлз, профессор Калифорнийского университета, оставившая химию ради литературной критики, осмелилась представить себе эпоху постгуманизма. Он представлял себе мир, в котором не будет места понятию homo sapiens, отличного от искусственной симуляции компьютеров. «Научно-фантастическая литература и кино исследовали это видение в таких произведениях, как „Терминатор“ и „Роботы-убийцы“. Хейлз, которого цитирует Аванесян, показал пропасть: «Нас пугает возможность того, что разум, превосходящий наш собственный, может быть менее естественным или более враждебным к природе, чем мы, и относиться к нам как к низшим существам, даже хуже, чем мы относились к другим существам». Более оптимистичные, такие как бывший инженер Google Рэймонд Курцвейл, автор книги «Сингулярность близка», предсказывают, что благодаря развитию нанотехнологий и робототехники мы сможем менее чем через десять лет бросить вызов смертности - причине более или менее интровертной паники, в которую в конечном итоге объединяются человеческие тревоги. По официальным данным, в Аргентине насчитывается 15 400 столетних стариков - число, немыслимое еще сорок лет назад. «Хулиан Галло, ученый, чей авторитет в области анализа и редактирования журналистских текстов выражается в платформе Ualter.AI, недавно повернул кресло, за которым он работал за компьютером в Буэнос-Айресе, и посмотрел назад, в сторону своей библиотеки. Он посмотрел на одну из полок и, нажав на кнопку своего мобильного телефона в одном из приложений ChatGPT - теперь с модальностями просмотра, прослушивания и говорения, которые удвоили его возможности за несколько месяцев, - сделал снимок и набрал: «В одной из этих книг говорится о клетках для разума, какая это может быть книга?» Приложение ответило: «Книга „Культы: язык фанатизма“ Аманды Монтелли, которая стоит на вашей полке, может быть той, в которой говорится о „клетках для разума“. В этой книге, - продолжило приложение, - исследуется, как язык используется в фанатичных движениях для формирования и контроля сознания людей, что связано с идеей «клетки разума»». Такая точность поражает тех из нас, кто часто не может найти книгу, которая находится где-то в домашней библиотеке. ChatGPT позволил себе, в качестве последнего уважения к Хулиану, литературное суждение: «Если вы хотите изучить, как язык или определенные идеологии могут запирать людей в „клетках разума“, эта книга будет хорошим выбором». В Аргентине команда LA NACION Data в сотрудничестве с командой Digital Narratives редакции новостей стала эталоном в использовании искусственного интеллекта в журналистском контенте. Он использовал его, чтобы сравнить на YouTube в картинках и словах эмоции кандидатов в президенты на дебатах в Аргентине и США и озвучить тридцатитрехстраничное письмо, которое бывший президент Кристина Киршнер в резких выражениях написала президенту Хавьеру Милею. «В портфеле клиентов Хосе Гельмини, тренера по компьютерному обучению из Буэнос-Айреса, больше ветеранов, стремящихся не отставать от технологических новинок, чем представителей поколения Z, гиперподключенных к электронным устройствам, но не отличающихся коммуникабельностью даже за рождественским столом. Гельмини говорит, что клиенты начинают проявлять беспокойство по поводу горизонтов искусственного интеллекта. Он не хочет успокаивать их комментариями израильского мыслителя Юбала Ноя Харари в его новой книге «Нексус. A Brief History of Information Networks from the Stone Age to AI» (Penguin): „Если компьютеры продолжат приобретать интеллект, - пишет Харари, - они смогут развить сознание и репетировать некий субъективный опыт“. Эту возможность исследовал английский писатель Иэн Макьюэн в книге „Машины, как я“ (2019), а профессор Паскуале в „Новых законах робототехники“. Чарли, герой предпоследнего романа Макьюэна, покупает робота, чтобы убить свою скуку, но не для того, чтобы робот переспал с Мирандой, его соседкой. В отличие от амфитеатральной структуры масс-медиа, цифровые медиа характеризуются, по словам Хана, ризоматической структурой: сети, в которых нет центра. Он мог бы сказать, что им также не хватает идентичности и направления - основы надежности качественной журналистики на протяжении трех столетий: «В рассаднике сетей процветает культура яростной словесной агрессии, загрязняющая другие контуры современной социальной жизни. В этой оцифрованной деревне, где президент Милей громче всех кричит во дворе, есть анонимные голоса, фанатичные голоса и голоса, которым платят за безнаказанное самовыражение; автоматизированные фальшивые аккаунты, известные как боты, и даже слова и лайки политических лидеров. Все это не должно заставить нас игнорировать тот факт, что усталость общества от старых, неэффективных и коррумпированных форм политики проявилась в виде реакции на неслышимый язык, которым изобилуют социальные сети: «Они заметили, что в инфократии произошла смена парадигмы. Мы перешли от общества зрелищ к обществу наблюдения». По его справедливому замечанию, в инфократии видимость падает не столько на правителей, сколько на управляемых. Хан говорит, как мог бы сказать Оруэлл в своих притчах 1940-х годов: «Да, даже умный робот-пылесос, который избавляет нас от утомительной уборки, составляет карту всего дома». Право на неприкосновенность частной жизни на каждом шагу подрывается теми, кто использует наши данные в корыстных целях или в качестве моделей при обучении текстов для цифровых машин. Это не фигура речи, когда говорят о добыче данных, как в скандале с ныне не существующей Cambridge Analytica: «Компании, вращающиеся на орбите цифрового мира, изобилуют потреблением минералов: кремния или ионизированного лития; энергии; воды. Масштабы криптовалют поднимают вопросы стратегической важности для государств. Согласно отчету Кембриджского университета, биткойн потребляет около 121,2 тераватт-часа (ТВтч) в год, что немного больше, чем потребляют Аргентина, Норвегия и Нидерланды. ИИ потребляет столь же чудовищное количество энергии. «Противоречия между участниками последовательных этапов коммуникации и информации были исторической константой. В книге La guerra de las plataformas Карлос А. Сколари, профессор интерактивных цифровых коммуникаций Университета Помпеу Фабра, рассказывает, что после Гутенберга появились переписчики, которые протестовали против печатного станка. Он цитирует Элизабет Эйзенштейн, американского историка, изучавшую переход от рукописей к массовым изданиям. Эйзенштейн воссоздал момент, когда бенедиктинец Филиппо ди Страта обратился к дожу Венеции с просьбой наказать типографов, печатавших за ничтожную плату «материалы, которые, к сожалению, могут возбудить впечатлительную молодежь». «Это ничто по сравнению с теми ссорами, которые возникают из-за компьютеров, Интернета, крупных технологических компаний, сетей и, если этого недостаточно, роботов и генеративного искусственного интеллекта. Мы знаем, что ни один из них не является обязательно хорошим или плохим: они будут такими, какими их захочет видеть человек, если вовремя остановится и задумается о своей судьбе« (*) Слова автора на встрече Национальных академий моральных и политических наук Испании и Аргентины, состоявшейся на этой неделе в Мадриде».