Философия, Одиссей и добродетель в искусственном интеллекте

Искусственный интеллект порождает неопределенность в экономике, сфере труда и образовании. Однако существует один парадоксальный факт: в то время как он угрожает некоторым профессиям, он спасает философию от ее исторической неустойчивости. Такие компании, как DeepMind, Anthropic и OpenAI, массово нанимают философов для разработки «этических конституций», которые будут контролировать модели искусственного интеллекта (ИИ). Журнал «The Economist» в недавней статье отмечает, что уровень безработицы среди философов составляет 5 % по сравнению с 7 % среди инженеров-программистов. Какую роль может сыграть философия в сфере новых технологий? «В этике обычно различают две концепции. Деонтологическая (Кант) устанавливает абсолютные правила, например, не лгать, не применять принуждение, уважать достоинство. Консеквенциалистский (утилитаристский) подход сопоставляет затраты и выгоды для достижения максимальных результатов. Компания Anthropic включила идеи Канта и Декларацию прав человека в «конституцию» системы Claude, в то время как OpenAI и Google разрабатывают консеквенциалистские системы, нацеленные на «выгоды, значительно превышающие предсказуемые риски». «Но существует третья парадигма, которая выходит за рамки любого алгоритма: этика, основанная на характере. Она не применяет универсальных правил и не рассчитывает оптимальные последствия, а стремится развивать такие добродетели, как благоразумие, сострадание или мужество. Добродетели необходимы для преодоления дилемм. Представим себе сложный разговор с ребенком, в котором абсолютная честность была бы жестокой, а ложь — бесчестной. Добродетель заключается в том, чтобы справляться с ситуацией, соблюдая контекстуальный баланс между этими двумя крайностями. «Дарвин понял суть добродетели в 1838 году, когда составил знаменитый список плюсов («компания, человек, с которым можно поговорить») и минусов («меньше времени на исследования») брака. Несмотря на своё намерение использовать рациональную математику, он вскоре осознал, что брак — это не поддающийся расчёту вопрос, поскольку его последствия радикально неопределённы. Мы не знаем, продлится ли он, сделает ли он нас счастливыми, разрушат ли конфликты наши отношения. В этом и заключается моральная проблема, возникающая при обращении к ИИ с вопросом, следует ли вступать в брак или нет. «На протяжении 30 лет поведенческая экономика (смешение экономики и психологии) критиковала концепцию homo economicus, раскрывая его систематические когнитивные искажения. Но homo economicus экономистов — это не строго «рациональный» индивид, а логик, обладающий способностью к формальному вычислению. По этому определению мы все иррациональны!» Более 2000 лет назад Аристотель предложил альтернативную теорию правильного суждения в условиях неопределённости — о том, как быть рациональным в ситуациях, когда просто невозможно действовать как безжалостный логик. И он назвал это «фронезис». Фронезис не применяет универсальных правил и позволяет различать противоречащие друг другу добродетели. Сострадание и справедливость, например, противоречат друг другу. Честность и доброта тоже иногда вступают в противоречие. Принятие решений в этих моральных рамках требует, по сути, жизненного опыта. Машина, которая не экспериментирует, не стареет, не испытывает ни стыда, ни раскаяния, не способна сформировать чувство «фронезиса». «Одиссея», недавно экранизированная Кристофером Ноланом, — это школа «фронезиса». Герой преодолевает радикальную неопределенность без формул и алгоритмов. Опасности, с которыми он сталкивается в своём путешествии, заставляют его испытать все виды рациональности. «Иногда он применяет чистую логическую рациональность. Цирцея предупреждает его, что ему предстоит выбрать между Сциллой (шестиглавым чудовищем) и Карибдисом (водоворотом, поглощающим корабли). Одиссей производит расчёт ожидаемого убытка: лучше потерять шестерых людей из-за Сциллы, чем подвергнуть риску весь экипаж из-за Карибды». В других случаях его человеческая природа подводит его. В один момент он совершает ошибку, связанную с фронезисом, которая обойдётся ему в десять лет путешествия (и которая не показана в фильме). Ослепив циклопа Полифема и успешно сбежав под вымышленным именем «Никто», Одиссей не может удержаться от того, чтобы с корабля не прокричать своё настоящее имя и родословную. Полифем, теперь способный проклясть его по настоящему имени, взывает к своему отцу Посейдону, чтобы отомстить. Это момент гордости, разрушающий годы правильных расчётов. Это провал благоразумия — именно то, чего, по словам Аристотеля, помогала избежать «фронезис». Ещё одно знаменитое приключение Одиссея стало предметом изучения в рамках поведенческой экономики. Герой знает, что, если он прислушается к сиренам, корабль против его воли направится к ним, разобьётся о скалы и потерпит крушение. Тогда он приказал своим морякам заткнуть уши воском, а сам привязался к мачте, чтобы не поддаться искушению. Это было решение, которое он нашел, чтобы услышать сладкую мелодию и в то же время спасти свою жизнь. Но всё сложилось не так, как он ожидал. Одиссей страшно мучился от того, что не мог приблизиться к сиренам, и горячо желал, чтобы искушение закончилось как можно скорее. Уловка не сработала так, как он полагал. «Одиссей отступает от чистой рациональности, когда нимфа Калипсо предлагает ему бессмертие, если он останется с ней навсегда (в фильме тоже так). Одиссей отказывается: он выбирает смертную жену, стареющий дом, верную смерть. Ни один алгоритм, выполняющий расчёт удовольствия, не сможет выбрать этот вариант. Одиссей поступает правильно, потому что у него есть своё представление о том, какую жизнь стоит прожить. Это не деонтология и не консеквенциализм. Это фронезис, касающийся самого главного: что значит жить по-человечески. И именно этой философии не обладает ни один ИИ». Добродетель — это привычка действовать в соответствии с практическим, а не логическим разумом. Это не расчёт выгоды и не максимизация полезности. Это черта характера, выработанная посредством повторения, обучения и взаимоотношений с ближними. Когда мы поступаем добродетельно, мы испытываем эвдемонию, что означает полноценную, целостную и значимую жизнь». В мире, управляемом алгоритмами, философия фронезиса подсказывает нам, когда не следует доверять им. Мы привыкли признавать технические ограничения генеративного ИИ, но, возможно, гораздо важнее — научиться понимать, когда он наносит ущерб нравственности. Именно этому был вынужден научиться Одиссей во время своего бесконечного путешествия, извлекая уроки из каждой неудачи, запоминая каждую победу и развивая практический смысл, которым не обладает ни одна машина. «Рост числа философов в компаниях, занимающихся ИИ, — не случайность. Это признание того, что истинный интеллект требует фронезиса. Действовать в соответствии с древним искусством фронезиса во времена искусственной уверенности — значит знать, когда доверять себе, когда не доверять цифрам и когда выбирать неопределённость. В этом и заключается сущность человеческого бытия».