Какое будущее нас ждет с ИИ? Ответ станет известен в ближайшие три года (и, возможно, это принесет еще больше неопределенности)

26 декабря 2004 года у побережья острова Суматра (Индонезия) в Индийском океане произошло гигантское землетрясение (магнитудой от 9,1 до 9,3 по шкале Рихтера). В результате поднятия дна океана образовалась волна, которая прошла тысячи километров и нанесла огромный ущерб побережьям нескольких стран: это было, безусловно, самое смертоносное цунами в истории, унесшее жизни более 230 000 человек. Когда смотришь какой-нибудь документальный фильм об этой трагедии, можно заметить одну особенность: гигантская волна не похожа на обычную волну, просто увеличенную в разы, как те, что фигурируют в рекордах серфинга, высотой 20 или 30 метров. Волна в Индийском океане 2004 года представляет собой своего рода бело-серую стену, которая движется равномерно, немного ниже, но гораздо более упорная и смертоносная. Это другая волна, и именно поэтому она унесла жизни стольких людей: сначала море отступило на сотни метров, и многие туристы, находившиеся на пляжах Таиланда и Индонезии, восприняли это как курьез и остались на месте, не подозревая, что это была смертельная ловушка. «Эту идею «другой волны» можно перенести на то, что происходит с ИИ и экономикой перемен. Как и в сюжетах фантастических сериалов (вспомните «Остаться в живых» или «Очень странные дела»), на каждый данный ответ открываются два новых вопроса. Мы вступаем на территорию «того, о чем мы не знаем, что не знаем» — доктрины Дональда Рамсфелда о «неизвестных неизвестных». Несколько дней назад популяризатор науки, футурист и бывший главный редактор журнала Wired Кевин Келли опубликовал отличную короткую статью на эту тему, назвав её в честь концепции бывшего министра обороны США. Келли отмечает интересный момент: сегодня никто — даже самые большие эксперты в области ИИ — не имеет ни малейшего представления о том, что произойдет с этой революцией с точки зрения экономики и занятости; будет ли она продолжать набирать обороты, достигнем ли мы так называемого «AGI» (общего искусственного интеллекта, или «суперинтеллекта»). Но в какой-то мере, похоже, существует общий консенсус в том, что ответы на эти вопросы появятся в ближайшие три года, и что к — скажем, 2029, 2030 годам — очертания мира с ИИ во всей «инфраструктуре реальности» (термин футуролога Марсело Ринези) уже будут намечены. Нечто подобное обычно говорит креативщик Николас Пиментель: в сознании многих из нас, кто сегодня относится к поколению X, миллениалам или бумерам, заложена идея, что «мы вышли из гавани с спокойными водами, сейчас пересекаем бурные воды, но в какой-то момент все уляжется и наступит новая нормальность». Возможно, это происходит, как говорит экономист Тайер Коуэн, потому что нынешнее поколение пережило десятилетия стабильности, каких не было в современной истории (без мировых войн и резких перемен в мировом порядке). Вернёмся к Келли: он считает, что, скорее всего, ответы на эти основные вопросы о влиянии ИИ не будут найдены к 2030 году. «К тому времени ИИ будет по-прежнему удивлять нас. Возможно, мы все еще не будем знать, возможна ли ОИИ, будет ли это приводить к массовому сокращению рабочих мест: я не говорю, что это происходит из-за застоя, но появляющиеся новости не дают ответов на старые вопросы, а лишь расширяют границы нашего незнания, поскольку представляют собой нечто новое в новой форме». «Если это произойдет, нас ждет период в 10–15 лет постоянной, непрекращающейся и серьезной неопределенности. «Для многих это станет огромным бременем, потому что мы ненавидим неопределенность больше, чем плохие новости», — отмечает Келли. «Некоторые прогнозы, исходя из этого сценария: «Между экспертами по ИИ возникнут серьезные разногласия по поводу того, достигли ли мы уже уровня ОИИ или нет; даже самые авторитетные экономисты не смогут сказать, будет ли сильное влияние на производительность или нет; уровень глобальной тревожности возрастет; США и Китай не смогут решить, быть им союзниками или врагами». В конечном итоге Келли считает, что наступит «эпоха неопределенности». «Для предпринимателей и деловых людей в таких условиях уверенность становится крайне опасной». Самым пагубным предубеждением станет излишняя самоуверенность, уверенность в том, что мы правы. «В конечном счете, в эту новую эпоху нужно уметь менять свой образ мышления. Вызов, с которым мы сталкиваемся в этой ситуации, — это не временный туман, а фундаментальное изменение в природе знания», — говорит Келли. Келли возвращается к классической таксономии (известное известное, известное неизвестное и неизвестное неизвестное), но переосмысливает ее. Его мысль заключается в том, что «неизвестное неизвестное» — это не маргинальная аномалия системы: это и есть сама система. Прогресс — научный, технологический и даже личный — происходит не столько благодаря решению существующих вопросов, сколько благодаря открытию того, что были вопросы, которые мы даже не умели сформулировать. «Здесь возникает мощная идея: знание растет не как карта, которая заполняется, а как граница, которая расширяется. И чем больше она расширяется, тем больше у нее периметра. То есть: тем больше контакта с неизвестным. Больше знаний не уменьшает структурную неопределенность; оно ее реорганизует». Эту метафору знания как острова и невежества как окружающего его моря (граница которого расширяется по мере того, как мы узнаем больше) часто цитирует физик, эксперт по ИИ и российский футурист Андрей Важнов, который сейчас проживает в Барселоне и руководит стратегией в области ИИ для крупнейшей риэлторской компании США. «Эта фраза принадлежит физику Джону Арчибальду Уилеру: по мере того как растет наш остров знаний, растет и берег нашего незнания», — рассказывает Важнов газете LA NACION. Уилер считается одним из концептуальных архитекторов современной физики: он занимался общей теорией относительности, ядерной физикой и основами квантовой механики. «ИИ не просто отвечает на вопросы: он порождает новые области незнания. Это машина, производящая «то, чего мы не знаем, что не знаем». Это противоречит доминирующему представлению об ИИ как инструменте снижения неопределенности; на самом деле он просто перемещает ее в другие стороны. И здесь есть культурный аспект: организации (и люди) созданы для минимизации неизвестного, а не для взаимодействия с ним. Они вознаграждают предсказуемость, наказывают ошибки, ценят ясность. Но если двигатель прогресса — это то, чего мы не знаем, что не знаем, то возникает глубокое несоответствие между тем, как мы действуем, и тем, откуда берется ценность». «Ключ в том, чтобы не зацикливаться на одном варианте и чувствовать себя комфортно, одновременно поддерживая несколько противоречивых возможностей. На практике Важнов заставляет себя не иметь твердых мнений ни о чем, если только ему не нужно принимать решение по этому вопросу. Это навык, который нужно тренировать: пока это не требует затрат, удерживать противоречие. «Возможно, лучше всего это резюмировал не физик и не эксперт по ИИ, а писатель-романист. Фрэнсис Скотт Фицджеральд однажды заметил: «Признаком высокого интеллекта является способность одновременно удерживать в голове две противоположные идеи и при этом сохранять способность действовать».