От Марса до сознания: древнейшая дилемма философии набирает обороты в «эпоху ИИ»

В начале этого года в одном из интервью Илона Маска спросили, какая тема его сейчас интересует больше всего. Пару лет назад он, вероятно, ответил бы: «Полет на Марс», но огромные технические сложности этой миссии приостановили реализацию марсианских планов, и Маск ответил, что его очень увлекли новые исследования в области сознания. Это область, которая нам гораздо ближе, но о которой, как ни парадоксально, известно гораздо меньше, чем о поверхности Красной планеты. «Дискуссия о сознании ведётся уже тысячи лет и затрагивает, помимо прочего, философию и нейронауки. Сегодня десятки теорий соревнуются за право объяснить чрезвычайно сложное явление, в отношении которого даже нет единого мнения относительно самого определения: что именно значит быть сознательным. Среди самых экстравагантных гипотез — предположение о том, что мы живём в «великой симуляции»; эта идея набирает всё больше сторонников, и сам Маск публично высказывался в её поддержку. «Эта область расширилась и набрала обороты благодаря дискуссии об общем искусственном интеллекте (знаменитом AGI) и вопросу о том, обретут ли машины когда-нибудь сознание. Одна из самых обсуждаемых новинок появилась из лабораторий Anthropic — компании, стоящей за проектом Claude. В статье под названием «Emergent Introspective Awareness in Large Language Models» группа исследователей «ввела» чужую мысль (математическое представление такого понятия, как «крик» или «громкий шум») непосредственно в промежуточный слой нейронной сети модели, минуя любой текст. В предыдущих экспериментах, если модели навязывали понятие «Театр Колон», система становилась одержимой этим театром, словно марионетка, не имея ни малейшего представления о том, почему. На этот раз Клод заметил нечто странное, отделил это от своих собственных мыслей и высказал это, прежде чем ответить: что-то вроде «я замечаю то, что похоже на введенную мысль… она связана с громкостью или криками». Это не сознание, и Anthropic ни в коем случае этого не утверждает, но это первое доказательство причинно-следственной связи того, что модель может отслеживать, пусть даже в примитивной форме, свои собственные внутренние состояния». В журнале «Nature» журналистка Мариана Ленхаро описала, как исследования в области сознания переживают свой «момент ИИ»: крупные технологические компании нанимают философов, а эта область приобретает популярность и финансирование. Однако многие специалисты испытывают беспокойство, поскольку интерес опережает консенсус по самым базовым вопросам. Нет единого мнения о том, что порождает сознание у людей, не говоря уже о чат-боте. «На фоне этой дискуссии позиция Демиса Хассабиса (лауреата Нобелевской премии по химии, соучредителя Google DeepMind, а с августа — президента этого подразделения и главного научного сотрудника Alphabet) является одной из самых четких. В ходе выступления в Стэнфорде он заявил, что сознание пока не является четко сформулированной проблемой ни для философии, ни для нейробиологии, и предложил следующий порядок действий: сначала создать инструменты уровня AGI, затем использовать их для изучения мозга и выработки более строгого определения, и только после этого общество сможет решить, хочет ли оно пересечь «второй Рубикон» — то есть создать сущности, которые, по крайней мере, будут казаться сознательными. «Я считаю, что интеллект и сознание можно разделить», — резюмировал он. На конференции AI Ascent, организованной Sequoia, состоявшейся парой месяцев ранее, он перечислил компоненты, которые считает необходимыми, хотя и недостаточными для чего-то, похожего на сознание: самосознание, представление о «я», отличном от других, и некая непрерывность во времени. В этом году из той же лаборатории прозвучала точка зрения с некоторыми нюансами. Александр Лерхнер, старший научный сотрудник Google DeepMind, в марте опубликовал работу под названием «Логическая ошибка абстракции». Его тезис заключается в том, что ИИ может имитировать сознание, но никогда не сможет его испытать, точно так же, как искусственное сердце перекачивает кровь, не выполняя при этом остальных функций живого органа». Лерхнер говорит о «зависимости от картографа»: любая вычислительная система нуждается в том, чтобы кто-то заранее систематизировал реальность по категориям, которые машина сможет обработать, и смысл, который, как кажется, порождают модели, проистекает именно из этой человеческой задачи». Еще один кусочек мозаики появляется в журнале «Noema», где Дэниел Фриман, ученый из Лаборатории Линкольна при Массачусетском технологическом институте, занимающийся поиском нейронных основ сознательного опыта, обращается к работам невролога Антонио Дамасио — легендарной фигуры в этой области. Его пациенты с повреждением префронтальной коры могли рассуждать, вести беседу и решать сложные задачи, но не могли принять решение даже о таком простом вопросе, как время встречи: они утратили эмоциональный сигнал, придающий значение различным вариантам. Ещё в 90-е годы Дамасио пришёл к выводу, что чувство — это не просто украшение рационального мышления, а тот механизм, который делает его возможным». Фриман идет ещё дальше, выдвигая собственную гипотезу: сознательное мышление представляет собой сочетание нескольких «примитивных чувств», подобно тому, как 30 основных ингредиентов дают октиллион комбинаций — больше, чем всё человечество смогло испытать за всю свою историю. И он цитирует нейробиолога Бьорна Меркера: «Кора мозга генерирует содержание сознания, но именно более глубокие и древние структуры мозга (общие с рыбами и присутствующие у мышей без коры, которые тем не менее едят, плавают и проходят лабиринты) создают сам опыт». Та же идея проходит красной нитью через «Being You» — отличную книгу нейробиолога Анила Сета: восприятие — это не зеркало мира, а «контролируемая галлюцинация», которую мозг постоянно создает на основе сигналов, поступающих из тела. «Мы обладаем сознанием, — утверждает Сет, — потому что мы — живые организмы, стремящиеся выжить, а не потому, что мы думаем». «Томас Гарсия, возглавляющий отдел поведения в Verily — компании Alphabet, занимающейся здравоохранением, — предлагает газете LA NACION три направления для более глубокого осмысления этой темы». Первая — эпистемологическая — и её формулирует Аннака Харрис, автор книги «Conscious»: поскольку до сих пор не удалось определить, что такое сознание, практически невозможно установить, обладает ли ИИ сознанием или может ли оно его обрести. Харрис настаивает на том, чтобы разграничить две вещи, которые часто смешивают (интеллект и сознание) — то же самое различие проводит и Хассабис. Примеров очень умных систем, которые, вероятно, ни о чём не осознают, предостаточно». Второй подход принадлежит чилийскому биологу Франсиско Вареле, кумиру нейробиологов: реальность не является ни чисто субъективной, ни просто «внешней», а возникает в результате взаимодействия организма с окружающей средой. Если отнестись к этому взгляду всерьёз, он меняет акцент дискуссии: вопрос перестаёт заключаться в том, обладает ли машина сознанием, и становится тем, как ИИ может помочь лучше взаимодействовать с окружающей средой. Ни одна из сторон — ни технология сама по себе, ни люди сами по себе — не может этого сделать». Третья точка зрения — самая неудобная — принадлежит немецкому философу Томасу Метцингеру, который говорит о «цифровом аде»: если удастся создать искусственный интеллект, обладающий субъективным опытом, и эта архитектура будет воспроизведена в масштабе (миллионы экземпляров, работающих параллельно), возникнет риск вызвать страдания невиданного масштаба, и никто не заметит этого, пока это происходит. «Марс, по крайней мере, можно сфотографировать. А для той другой территории, которая сегодня не даёт покоя Маску и крупным лабораториям, карты пока нет: есть лишь картографы с весьма примитивными представлениями, которые спорят о том, что считать ландшафтом, а что нет».