Лебеди, носороги, драконы и пять этапов поединка искусственного интеллекта

Одна из самых популярных сегодня категорий знаний и неопределенности была придумана не философом, не экспертом по сложности или экономистом. Ее произнес в феврале 2002 года бывший министр обороны США Дональд Рамсфелд. Во время встречи со своими сотрудниками, отвечая на вопрос о возможности наличия ядерного оружия в Ираке, Рамсфелд упомянул "неизвестные неизвестные". "Концепция стала знаменитой. В книгах по теории принятия решений появилась "матрица Рамсфелда". В ней есть вещи, которые мы знаем, что знаем, вещи, которые знаем, что не знаем, вещи, которые не знаем, что знаем, и самый важный и объемный квадрант: то, что мы не знаем, что не знаем". В 2013 году даже вышел документальный фильм об иракском кризисе с таким названием. Спустя пять лет после фразы бывшего министра обороны один популяризатор добавил ей концептуальный объем и сделал ее знаменитой. Это произошло в 2007 году, когда была опубликована книга Талеба "Черный лебедь", ставшая для многих библией в мире ускоренных перемен и повышенной сложности. Черные лебеди Талеба - это масштабные события на крайних участках кривой вероятности, которые никто не предвидел. Заранее о них почти не упоминают, потому что им приписывают очень низкие, почти несуществующие вероятности. Ex post, когда мы соединяем точки в обратном порядке, мы увеличиваем шансы наступления события в ретроспективе". "Самый известный пример "черного лебедя", упомянутый автором, - это взрыв башен-близнецов в 2001 году. Но с тех пор эти странные животные размножились: каждый рыночный шок - "черный лебедь", Ковид получил этот ярлык, результаты выборов и крах политических аутсайдеров - тоже черные лебеди и т. д. "Проблема с "наложить черного лебедя на все" заключается в том, что, говоря в двух словах, не все упомянутые события строго соответствуют этой феноменологии. Иногда мы не готовимся к событию с высоким уровнем воздействия не потому, что оно априори маловероятно, а потому, что отказываемся его видеть, учитывая наши предубеждения (например, из-за предубеждения подтверждения мы игнорируем то, что противоречит нашему мнению) или просто потому, что не представляем, как справиться с той или иной проблемой". "Через девять лет после выхода книги Талеба, в 2018 году, автор Мишель Вакер придумал фигуру "серого носорога": опасное животное медленно приближается, перед лицом которого мы ничего не предпринимаем. В одном из интервью Укер утверждала, что использование "черного лебедя" - это злоупотребление, поскольку оно каким-то образом освобождает многих участников от вины: если инвестиционный менеджер принимает неверное решение и заставляет своего клиента терять деньги, он может кричать "черный лебедь!" и быть в безопасности; в конце концов, никто не предполагал, что это произойдет. Такое часто случалось в 2008 году в США во время кризиса субстандартной ипотеки - явления неустойчивого, когда цены на недвижимость резко взлетели, что в итоге привело к взрыву. "Серый носорог" Вукера стал очень известен в 2018 году, когда он рекомендовал книгу в своем выступлении на ежегодном собрании Коммунистической партии Китая Си Цзимпина. "По мнению Вукера, существует культурная детерминанта в подходе и отношении к риску между Востоком и Западом. Китайская манера видеть серых носорогов, а не черных лебедей, подразумевает намерение взять на себя ответственность и справиться с предстоящей проблемой". "Менее известная, чем черный лебедь и серый носорог, третья фигура, придуманная для характеристики очень неопределенных процессов. Мы не можем назвать ее "другим животным", потому что это не так: это "король драконов", предложенный французским экспертом по эконофизике Дидье Сорнеттом. Короли-драконы" - это события гигантского масштаба (король) и единичного происхождения (дракон). В отличие от черных лебедей, эти короли-драконы непредсказуемы с точки зрения ограниченного кругозора стилизованных моделей наблюдателя. Вина аналитика заключается не в плохом расчете или вероятностном вопросе, а в слишком упрощенной модели, возможно, из-за интеллектуальной лени", - пишут экономисты, профессора УТДТ Эдуардо Леви Йеяти и Дарио Юдзик в своей книге Automatizados. В одной из последних глав Йеяти и Юдзик упоминают лебедей, драконов и носорогов, чтобы охарактеризовать нашу реакцию общества на развитие искусственного интеллекта (книга посвящена последствиям ИИ на рынке труда). "Даже в большей степени, чем в случае с финансовым кризисом, эволюция и проникновение искусственного интеллекта и его эффекты технологического замещения в сфере труда - а также его распределительные и социальные последствия - столь же заметны и очевидны, как серый носорог", - утверждают авторы книги "Автоматизированный" (Planeta). "Подумайте об армиях рабочих и интернет-пользователей, обучающих машины и программное обеспечение, которые в конечном итоге заменят их: почему мы не готовимся к этому моменту?" - добавляют они. "По мере приближения двухлетней годовщины запуска Chat GPT (это было в ноябре 2022 года), в отличие от других технологических волн прошлого, волна ИИ не только не замедляется, но и бежит все быстрее. В то же время все более интересными становятся эссе, направленные на понимание этого феномена (и на то, чтобы понять, куда дальше может пойти фильм о социальной реакции). "Одно из недавних эссе принадлежит американскому социологу и профессору Калифорнийского университета Бенджамину Брэттону, который написал о "пяти стадиях траура ИИ". Как и в случае с травмирующим событием, общество с ИИ, по мнению Брэттона, также проходит через свои "пять стадий скорби" или травмы. Брэттон напоминает, что Зигмунд Фрейд говорил о коперниканском сдвиге, имея в виду те случаи, когда человек был сбит со своего пьедестала или центрального положения (это произошло с Коперником, с Чарльзом Дарвином и с психоанализом). В своей книге 1969 года швейцарский психиатр Элизабет Кублер-Росс впервые говорит о пяти стадиях горя: отрицание, гнев, попытка договориться, депрессия и принятие. То же самое, по мнению Брэттона, произойдет в 2024 году с нашими отношениями с ИИ. "Предсказуемы ли эти испытания? В июле исполнилось десять лет со дня выхода книги Ника Бострома из Оксфорда "Сверхразум", одного из самых влиятельных текстов по этой теме. В то время ее рекомендовали Элон Маск, Сэм Альтман и Билл Гейтс. В нескольких рецензиях, вышедших спустя десятилетие, подчеркивается актуальность "Сверхразума" и то, как Бостром "увидел его" в своих рассуждениях о наступлении эры, когда ИИ будет в центре внимания, и связанных с ним серьезных рисках, приближающихся, как серый носорог".