Мудрость незнания и обучение в эпоху искусственного интеллекта

Мы привыкли воспринимать интеллект как способность решать проблемы. Экзамен по математике, тест на коэффициент интеллекта, сборка кубика Рубика или партия в шахматы представляют собой, с различной степенью сложности, известную структуру. Перед нами стоит проблема, и мы используем определенные правила и критерии, чтобы отличить правильный ответ от неправильного. «Но жизнь редко помогает нам, четко формулируя проблему. Выбор профессии, смена работы, вложение сбережений или запуск нового бизнеса — это решения, для которых нет чёткой схемы. У нас даже нет возможности действовать методом проб и ошибок, потому что такие решения принимаются нечасто и в каждой ситуации они индивидуальны. «Кажется, что главное препятствие при принятии таких решений заключается в незнании будущего. Но это только начало. На практике мы также не знаем, какие переменные влияют на решение, какой прошлый опыт имеет значение, следует ли нам изменить мнение после получения новой информации, и многое другое. Решение проблемы требует сначала выяснить, в чем именно заключается проблема, которую нужно решить. «Но вот хорошая новость. Одно из влиятельных направлений когнитивной нейробиологии описывает мозг как систему, которая постоянно предвосхищает то, что ей предстоит воспринять, и корректирует свои модели на основе ошибок прогнозирования. Энди Кларк в своей книге «Surfing Uncertainty» и Якоб Хоуви в книге «The Predictive Mind» утверждают, что вместо того, чтобы пассивно ждать поступления информации, разум пытается опередить события. Мы способны создавать представления о том, что должно произойти, и используем эту способность для сравнения этих предсказаний с наблюдаемым. Фактически, мы постоянно тренируемся, потому что можем делать прогнозы и ошибаться без особых потерь — ведь наш повседневный опыт состоит из мелких, вполне терпимых ошибок. Коллектив опаздывает на пять минут, знакомый отвечает неожиданно, рождественскую премию выплачивают на неделю позже. В таких случаях мы быстро понимаем, что нет смысла перестраивать нашу модель мира. «Дело в том, что одни сюрпризы имеют большее значение, чем другие. Если ресторан разочаровывает пять раз подряд, возможно, сменился повар. Если исчезает экономическая стабильность, которая казалась незыблемой, мы начинаем думать о смене режима. Ключ заключается в том, чтобы отличать несущественные изменения от структурных. Мозг, который полностью пересматривает свои убеждения при каждом новом наблюдении, был бы столь же нефункционален, как и тот, который не меняет своего отношения к очевидным изменениям. «Суть в том, что для обучения нужно удивляться, но не слишком сильно. Исследование требует принятия некоторой степени неопределённости». Сменить ресторан, прочитать мнение человека, с которым мы не согласны, опробовать новую технологию или открыть свой бизнес — все это означает сознательно подвергать себя воздействию информации, исход которой нам неизвестен. Неопределенность — это тоже технология обучения». «Еще сто лет назад Фрэнк Найт проводил различие между риском и неопределенностью. В случае риска мы знаем, по крайней мере приблизительно, возможные результаты и их вероятности. В случае подлинной неопределённости такого перечня уже нет. Когда мы сталкиваемся с кризисом, технологической инновацией или серьёзными политическими изменениями, мы даже не знаем, какие события могут произойти». Это приводит к появлению иного вида рациональности. Нам приходится решать, какие цели являются актуальными, как описать ситуацию и каким соображениям следует отдавать предпочтение, когда не существует механической процедуры для их сопоставления. Эта рациональность меньше похожа на решение судоку и больше — на ориентацию в незнакомом городе: человек движется вперёд, смотрит по сторонам, корректирует курс и иногда даже обнаруживает, что пользовался не той картой. «Когда происходит что-то действительно неожиданное, в течение некоторого времени у нас нет надёжной модели. Вспомним первые месяцы пандемии. В марте 2020 года одна гостиница заметила, что количество бронирований упало практически до нуля. Данные были неопровержимы, но оставалось неясным, что делать дальше. Нужно ли было финансировать несколько месяцев без клиентов? Сдать в аренду или продать здание? Готовиться к смене сферы деятельности? Каждый диагноз предполагал радикально иную стратегию. Одни и те же данные позволяют представить себе различные возможные миры. «Одним из полезных способов рассуждения в таких обстоятельствах является абдукция, связанная с именем философа Чарльза С. Пирса. Эта стратегия отличается от дедукции, которая выводит следствия из посылок, и от индукции, которая ищет закономерности на основе повторяющихся наблюдений. Абдукция используется, когда происходит нечто новое, и с её помощью мы пытаемся представить себе объяснение, которое, если бы оно было верным, сделало бы понятным то, что мы наблюдаем. «Экономические кризисы функционируют аналогичным образом, хотя и в другом масштабе. Спад экономической активности может быть обычной рецессией, которая пройдет, или проявлением устойчивых преобразований. Резкий скачок курса доллара может быть реакцией на конкретную новость или свидетельствовать о том, что участники рынка перестали доверять действующей политике. На первых порах многие версии могут быть совместимы с одними и теми же данными. Ждать, пока появятся убедительные доказательства, тоже не вариант, потому что к тому времени, вероятно, уже придётся принимать решение». Поэтому действовать рационально в условиях кризиса — это гораздо больше, чем просто корректировать вероятности (стратегия, которой придерживаются «байесианцы»). Это подразумевает выдвижение гипотез, их сравнение, экспериментирование и готовность быстро отказаться от тех гипотез, которые перестают объяснять наблюдаемое. Обратите внимание на необходимое сочетание убежденности и временного характера в этой стратегии: нам нужна интерпретация, чтобы действовать, но мы должны помнить, что эта интерпретация была сформирована именно потому, что мы пока не знаем, что происходит. «Возможно, одной из самых ценных способностей в условиях неопределенности является умение одновременно держать открытыми несколько версий событий. Эксперт, слишком уверенный в своей оценке, может слишком долго оставаться в плену своей модели. Тот же, кто дезориентирован и меняет объяснение с каждой новой новостью, с другой стороны, запутается в противоречивых решениях. Между ними лежит интеллект, который кажется нам очень человеческим и который временно использует обзорную схему, не забывая, что, возможно, придётся нарисовать её заново. «Появление искусственного интеллекта, похоже, меняет картину нашей неопределённости, поскольку предоставляет в наше распоряжение чрезвычайно эффективные машины для ответов на вопросы. Но было бы наивно полагать, что это автоматически уменьшает проблему. Во многих случаях это просто смещает её. Когда получение ответа становится дешёвым, всё большее значение приобретает решение о том, какие вопросы стоит задавать, какие гипотезы заслуживают внимания и какие доказательства должны заставить нас отказаться от того или иного объяснения (подумайте: в какой момент вы убеждаетесь, что ИИ ошибается?)». «Верно, что ИИ не ограничивается решением чётко определённых задач. Она также может выдвигать гипотезы, переформулировать вопросы, предлагать аналогии и разрабатывать альтернативные сценарии. Однако это может привести к другой проблеме — избытку гипотез. В таких случаях мы вынуждены развивать и оттачивать способность суждения, необходимую для выбора между ними. Поэтому абдукция по-прежнему остается необходимой. «Конечный парадокс заключается в том, что ИИ предлагает нам удивительную технологию для получения ответов, в то же время сама становясь огромным источником неопределённости. Имеет ли смысл спросить её, какое влияние её собственное развитие окажет на занятость, образование, науку или даже на наши шансы на выживание? Как всегда, у машины найдётся ответ, но мы можем быть уверены, что, как и люди, она тоже движется в условиях «найтской неопределённости». «Интеллект, в конечном счёте, заключается не только в том, чтобы часто угадывать. В неопределённых ситуациях его ценность заключается в том, чтобы относительно быстро обнаружить, когда мы перестаём понимать, что происходит. В стабильном мире хорошая теория позволяет делать предсказания. В меняющемся мире требуется еще кое-что, что звучит парадоксально, но является очень человеческим: способность скептически относиться к нашим собственным теориям».