Чему может научить нас древняя книга об искусственном интеллекте

Одним дождливым днем я оказался в неожиданной для себя роли - преподавателя философии для машины. Я объяснял историю «Бхагавад-гиты» одной из самых совершенных языковых моделей того времени, желая узнать, сможет ли она понять учение одного из самых глубоких философских текстов в мире. Ответы модели были на удивление структурированными и беглыми. В некоторых фрагментах они даже звучали задумчиво, создавая впечатление, что ИИ осознает свою причастность к этому вековому разговору. Но во всех его ответах не хватало чего-то фундаментального: живого опыта, который придает мудрости реальный вес. ИИ может анализировать «Гиту», но он не чувствует моральной дилеммы Арджуны и силы наставлений Кришны. Он не столкнется с проблемами долга, страха или последствий, не пройдет через процесс личностного роста. Искусственный интеллект может имитировать мудрость, но не может воплотить ее. Ирония не осталась для меня незамеченной. Один из старейших философских текстов человечества проверял пределы наших новейших технологий в то самое время, когда технологии заставляют нас переосмыслить, что значит быть человеком. «Будучи основателем нескольких технологических компаний и автором книг об инновациях, я следил за развитием искусственного интеллекта со смесью волнения и беспокойства. Когда у моего сына диагностировали множественную миелому, редкую форму рака крови, я потратил сотни часов, используя языковые модели, чтобы найти и проанализировать источники, которые могли бы помочь мне понять его болезнь. Каждая искра озарения, которую я получал, и каждая галлюцинация машины, которая сбивала меня с пути, оставляли неизгладимый след во мне как в человеке. Я начал понимать, что технические проблемы внедрения ИИ - это лишь часть проблемы. Гораздо важнее философские вопросы, которые эта технология поднимает, когда пересекается с нашей жизнью. «В „Бхагавад-гите“ воин Арджуна стоит перед невозможным выбором. Увидев по другую сторону поля боя своих родных и учителей, выстроившихся в ряды вражеской армии, он складывает оружие. Но бог Кришна не согласен с ним и делится с ним бесценной мудростью, которая звучит и сегодня: «Никто не существует ни мгновения без совершения действия; хотя и не желая того, каждое существо вынуждено действовать». «Арджуна думает, что его отказ от участия в битве освобождает его не только от морального, но и от физического конфликта. Но Кришна показывает ему, что это не так. Отказ от участия также имеет последствия. Может быть, он и не убьет тех, кто дорог ему на другой стороне, но без его защиты падут многие из его собственных. Его решение бездействовать само по себе является действием с последствиями. Это отражает нашу дилемму с искусственным интеллектом. Многие люди сегодня хотели бы полностью избавиться от технологической революции: избежать технологии, которая пишет эссе, диагностирует болезни, питает оружие войны и имитирует человеческие разговоры с часто тревожащей точностью. Но, как учил Кришна Арджуну, бездействие - это не выход. Те, кто решает не вмешиваться, по сути, предоставляют другим право решать за них. Нет способа остаться в стороне. Вопрос лишь в том, будем ли мы участвовать мудро. Эта мудрость не ограничивается индивидуальным выбором, она распространяется на организационные и общественные решения. Каждое решение бизнеса о том, внедрять или не внедрять искусственный интеллект, каждая нормативная база, которую обсуждают правительства, каждая образовательная программа, включающая или игнорирующая грамотность в области ИИ: все это действия с последствиями. Даже решение не внедрять искусственный интеллект - это действие с огромными последствиями. Как учил Кришна, мы не можем избежать ответственности за выбор: «Системы искусственного интеллекта, и в частности языковые модели, действуют как зеркало человечества. Они отражают контент, которому их обучили, со всеми вытекающими из этого хорошими и плохими качествами. И это имеет этические, социальные и экономические последствия: «Если рекомендации, созданные с помощью ИИ, закрепляют прошлые тенденции, пострадают ли от этого инновации или устойчивое развитие? Если алгоритмы отдают предпочтение корпоративным гигантам, а не независимым брендам, будут ли потребители подталкиваться к решениям, которые еще больше концентрируют рыночную власть? ИИ не только отражает прошлое, но и формирует будущее коммерции. Недавно я провел эксперимент с рекомендательной системой одного крупного ритейлера. Алгоритм постоянно направлял меня к известным брендам с большими рекламными бюджетами, даже когда существовали другие, более мелкие компании с превосходными продуктами или интересными альтернативами. Это алгоритмическое предпочтение не было злонамеренным: оно просто оптимизировалось на основе истории покупок и нормы прибыли. Но его кумулятивный эффект может препятствовать видимости целеустремленных, инновационных компаний, замедляя внедрение альтернативных бизнес-моделей». »Автоматизация с помощью искусственного интеллекта также трансформирует мир труда и меняет целые отрасли - от журналистики до обслуживания клиентов и творческого искусства. Этот сдвиг приносит новую эффективность, но он также поднимает важнейшие вопросы: как предотвратить экономическое вытеснение работников-людей, чтобы не допустить углубления неравенства? Можем ли мы создать системы, которые дополняют человеческий труд, а не заменяют его? «Это не только технические, но и философские вопросы. Они заставляют нас задуматься о ценности работы и достоинстве труда. И в то время, когда так много говорят о возвращении промышленных рабочих мест в США, они также приобретают глубокий политический смысл. Будет ли иметь значение решоринг, если в ближайшие годы эти и многие другие рабочие места будут автоматизированы? «По мере того как ИИ набирает потенциал, мы также должны задаться вопросом, не подрывает ли наша зависимость от него наши творческие способности и навыки решения проблем. Если ИИ будет генерировать идеи, сочинять музыку или писать литературу, будет ли снижаться оригинальность человека? Если он сможет выполнять сложные задачи, станем ли мы пассивными потребителями алгоритмических результатов, а не активными творцами? Ответы будут зависеть не только от того, на что способна технология, но и от того, как мы решим интегрировать ее в нашу жизнь. Общественное мнение по поводу ИИ колеблется между утопическим оптимизмом и антиутопическим страхом. Я наблюдал такую же поляризацию в залах заседаний советов директоров и при обсуждении государственной политики. Одни видят в искусственном интеллекте панацею для решения больших глобальных проблем: лечения болезней, обращения вспять изменения климата, обеспечения процветания. Другие боятся массовой безработицы, автономного оружия и экзистенциальных угроз. Я видел, как руководители гонятся за новейшими технологиями, не задумываясь о том, действительно ли они помогают миссии их компании, а другие совершенно не понимают, что искусственный интеллект может сделать больше, чем автоматизация горстки ИТ-услуг. «Будда учил добродетели Срединного пути: пути равновесия, избегающего крайностей. Между безудержным энтузиазмом максималистов и откровенным неприятием технологических луддитов есть более сбалансированная позиция: та, которая сочетает технологические инновации с этическими размышлениями. «Мы можем найти этот баланс, только если начнем спрашивать себя, какими ценностями следует руководствоваться при разработке и внедрении искусственного интеллекта. Должна ли эффективность всегда превалировать над благосостоянием человека? Должны ли мы позволить системам принимать решения, касающиеся жизни и смерти, в здравоохранении, военном деле или уголовном правосудии? Это этические дилеммы, с которыми мы должны столкнуться уже сейчас. Мы не можем позволить себе бездействовать, пока ответы на эти вопросы даются по частям и в удобное время. Если мы позволим этим решениям укорениться без размышлений, изменить курс будет практически невозможно». Жан-Поль Сартр, влиятельный французский философ-экзистенциалист, утверждал, что человек „обречен быть свободным“: наш выбор определяет нас, и мы не можем избежать необходимости осмыслить жизнь с его помощью. Революция ИИ ставит нас перед новым основополагающим выбором. Мы можем использовать эту технологию для усиления отвлечения внимания, разделения и эксплуатации, а можем использовать ее как катализатор развития человечества. Преодоление того, кем мы являемся сегодня, не означает бегства от нашей человечности, а означает поиск путей для ее полного раскрытия. Это значит принять мудрость, сострадание и моральный выбор, признавая наши ограничения и предубеждения. ИИ должен не заменять человеческие суждения, а дополнять их, воплощая наши высшие ценности и компенсируя наши «слепые пятна». «На этом технологическом перепутье мудрость древних философских традиций может стать руководством к действию: от Бхагавад-гиты и буддийского умозрения до этики добродетели Аристотеля и самоисследования Сократа. Все они напоминают нам, что технический прогресс должен идти рука об руку с этическим развитием, что средства и цели нельзя разделять, а истинная мудрость сочетает в себе знание и сострадание. «Как алхимики искали философский камень - мифическое вещество, способное превращать неблагородные металлы в золото, - так и мы сегодня стремимся преобразовать наши технологические возможности в истинную мудрость. Эти поиски никогда не были только материальными: они также были путем к духовному просветлению. Подобным образом, величайший потенциал искусственного интеллекта заключается не в его технической мощи, а в том, как он может помочь нам лучше понять себя и свое место во Вселенной. «Этот путь философских размышлений не может быть отделен от технологического развития: он должен быть его неотъемлемой частью. Мы должны культивировать то, что древние греки называли phronesis: практическую мудрость, которая руководит действиями в сложных ситуациях. Эта мудрость позволяет нам ориентироваться в неопределенности, принимать тот факт, что мы не сможем предсказать все последствия технологических изменений, и при этом смело и осторожно двигаться вперед. «Если мы сбалансируем инновации с осторожностью, эффективность со смыслом, а прогресс с человеческими ценностями, мы сможем создать будущее, которое будет усиливать, а не разрушать самое ценное, что есть в человеке. Мы можем создать системы ИИ, которые будут усиливать наше творчество, а не заменять его механическими результатами; которые будут расширять наш выбор, а не ограничивать его; которые будут углублять наши человеческие связи, а не заменять их виртуальными альтернативами. «И при этом мы сможем достичь того, к чему философы стремились на протяжении веков: не просто овладеть природой, а научиться хорошо жить в неопределенном и постоянно меняющемся мире».