" content="width=device-width,initial-scale=1.0,minimum-scale=0.5,maximum-scale=5.0,user-scalable=yes" >Кармоди Грей, философ, которая отказалась работать в Anthropic: «Мы становимся всё более одинокими и всё более глупыми» — LA NACION{ «pagetype»: «nota», «valor»: «comun», «subtype»: «1», „nota_id“: «R7O3FT44EVDEFPSKEJLJVTQSAQ», «isListenable»: «no», «palabras»: 2000, „lectura“: «11» } @font-face {font-family:„Prumo“;src:url(„ pf resources fonts prumo Prumo-LNVF.woff2?d=2047“) format(„woff2-variations“); font-weight: 90; font-display: swap;} @font-face {font-family:„Prumo Italic“;src:url(„ pf resources fonts prumo Prumo-ItalicLNVF.woff2?d=2047“) format(„woff2-variations“); font-weight: 90; font-display: swap;} .- -prumo{font-family:Prumo,georgia,serif}.- -font-primary{font-family:Prumo,georgia,serif}.row{display:flex;flex-wrap:wrap;width:100%}[class*=col-]{width:100%;position:relative}.col{flex-basis:0%;flex-grow:1;max-width:100%}.col-1 {flex:0 0 8,3333333333%;max-width:8,3333333333%}.col-2{flex:0 0 16,6666666667%;max-width:16,6666666667%}.col-3{flex:0 0 25%; max-width: 25%}.col-4{flex: 0 0 33,3333333333%; max-width: 33,3333333333%}.col-5{flex: 0 0 41,6666666667%; max-width: 41,6666666667%}.col-6{flex: 0 0 50%; max-width: 50%}.col-7{flex: 0 0 58,3333333333%; max-width: 58,3333333333%}.col-8{flex: 0 0 66,6666666667%; max-width: 66,6666666667%}.col-9{flex: 0 0 75%; max-width: 75%}.

Компания Anthropic связалась с теологом и философом Кармоди Грей (Лондон, 43 года), профессором Университета Радбоуд (Нидерланды). Создатели чат-бота Claude хотели пригласить её в Сан-Франциско для участия в проекте под названием «исследовательское сотрудничество с традициями мудрости», цель которого — «направить нравственное формирование систем ИИ». После нескольких бесед Грей ответила отказом. Её решение удивило коллег. Какой же маленький человек осмелится сказать «нет» этим гигантам, стремящимся к мировому господству? Грей рассказала об этом в длинном эссе, опубликованном в Financial Times. Но для неё важнее не её решение по поводу Anthropic, а, по-видимому, неудержимое мировое завоевание ИИ. «Я хочу поговорить о пользователе, о зависимости и дегуманизации, о новых формах насилия и эксплуатации», — говорит она. В беседе с EL PAÍS она рассказывает, почему проблемой является то, что крупные компании в сфере ИИ навязывают свою версию событий, и как этого избежать. «В сущности, — пишет Грей, — они существуют для того, чтобы продавать продукт». Поэтому, добавляет она, так важно сменить вопросы, когда мы говорим об ИИ: «Мы должны думать о его последствиях», которых много: «Он концентрирует власть, размывает ответственность, истощает природу, экспроприирует культуры и языки с целью извлечения прибыли и, вероятно, делает нас более одинокими и глупыми», — говорит она. «— Anthropic предложила ей сотрудничать с „традициями мудрости“. Звучит очень странно». — Это очень странно. Уже сам подход вызывает подозрения. «Какая традиция, по их словам, побудила меня сотрудничать с Anthropic? Такого рода самонадеянность с самого начала вызывала у меня дискомфорт. Они связались со мной, чтобы узнать, не хотела бы я поехать на встречу в Сан-Франциско. Затем у нас состоялся первый разговор, в ходе которого я поделилась некоторыми первоначальными идеями, и они официально пригласили меня. Я долго обдумывала это. Поговорила с несколькими коллегами, довольно глубоко все обдумала и решила, что не могу этого сделать». — Почему? — Из-за ощущения, что это было приглашение за закрытыми дверями, на их территории и на их условиях. — Они хотели вас нанять? — Сомневаюсь. Им уже сообщили, что я настроен критически, и я сразу же сказал, что не буду сотрудничать. — В прессе много заголовков о компаниях, занимающихся ИИ, которые нанимают философов. Это искренний интерес или корыстный?» — Люди, с которыми я разговаривала в Anthropic, были впечатляющими и, несомненно, действовали из лучших побуждений. Они мне понравились, я их уважала. Я испытала настоящую грусть, когда решила отказаться. — «Это были философы или программисты?» — На этот вопрос я ответить не могу. Но они занимали очень высокие должности. У них было искреннее философское любопытство. В то же время в некоторых компаниях, таких как Google, действительно хотят иметь в штате людей, разбирающихся в этике. Но в других местах коммерческий интерес к использованию философии для продажи продукта настолько очевиден, что их подход к гуманитарным наукам неизбежно становится инструментальным. Они могут осознавать это или нет. Я уверена, что некоторые осознают, особенно те, кто больше занимается бизнесом. У них очень сложная коммуникационная машина, они умеют создавать образ интеллектуальной и моральной серьёзности». — «А философы, которые устраиваются на работу в компанию по искусственному интеллекту, — они продались или сами в это верят?» — «Если человек, изучавший философию, решает пойти работать в компанию по искусственному интеллекту, то, по крайней мере, становится ясно, кому он служит. Я бы так не поступил. Но если кто-то решает это сделать, это его дело. Но их не следует называть философами, а скорее людьми с философским образованием, работающими в компании, занимающейся ИИ. Главное, чтобы было ясно, кому служит их работа. Заниматься работой, которая на самом деле служит корпоративным интересам, замаскированной под академическую нейтральность: вот с чем нужно быть осторожным. Понятно, что академическая работа никогда не бывает полностью чистой и бескорыстной, но это не должно мешать ей стремиться к максимально возможной объективности и независимости». — Есть ли какое-то сотрудничество между ИИ и гуманитарными науками, которое вы считаете правильным?» — Да. Я твердо верю в то, что университет должен вести диалог с миром за пределами академической среды. Когда я отклонил приглашение в Сан-Франциско, я сделал встречное предложение. Я пригласил этих людей из Anthropic на беседу со мной на BBC. Они не согласились. Так что я вовсе не отказывался с ними разговаривать. Я твердо верю в диалог; философия живет благодаря диалогу. «Я сделал то, что мне казалось наиболее конструктивным предложением для подлинного диалога: прозрачного, подотчетного, надежного и на нейтральной почве». — «По-прежнему трудно понять, почему эти компании так стремятся общаться с философами и теологами». — «Оптимистичная версия заключается в том, что это умные люди. Они осознали, что ИИ — это экзистенциальный вопрос, который поднимает самые фундаментальные вопросы о том, что такое человек, что такое машина, где проходит граница, что такое сознание». — «Но это уже интерпретация». — «Совершенно верно. Я просто излагаю их точку зрения. Они также знают, что то, как развертывается эта технология, имеет огромные последствия для будущего человечества. И именно поэтому они хотят общаться с людьми, которые интеллектуально занимаются экзистенциальными и моральными вопросами. Это формальное обоснование того, почему они хотят привлечь таких людей, как я. Немного похоже на то, как у правительства есть советник по этике. Однако на практике они уже заранее решили, какие философские вопросы мы должны себе задавать. Это вопросы, которые побуждают нас сосредоточить наше философское внимание на самом продукте. Но это неверный подход. Самые насущные моральные и философские вопросы, которые поднимает ИИ, не касаются самого ИИ. «Они касаются влияния ИИ на людей и планету, власти, ответственности, зависимости, одиночества и нашей способности ценить свою человечность». — Вопросы, которые задавала компания Anthropic, скорее сводились к тому, является ли ИИ новым сущностью, обладает ли языковая модель характером и способна ли она испытывать страдания. — Многие ученые считают, что именно это и есть важные вопросы. Я бы предпочёл спросить: а стоит ли нам вообще антропоморфизировать Клода? Но мне показалось, что они не хотели вести эту беседу. Пример: представьте, что мы говорим о расизме. И кто-то говорит: «Важный вопрос в том, является ли человек другой расы действительно человеком». Хотя ответ, к которому мы все придём, будет «да», очевидно, что этот человек хотел посеять сомнение, и это раскрывает его истинное отношение. Уже сам вопрос, который ты задаёшь, показывает, как ты мыслишь. В этом и заключается ключ. Вопрос создаёт разговор. Если ты хочешь поговорить о Клоде, то, конечно, ты спросишь, обладает ли Клод сознанием. Если Клод — ваш продукт, то это подходящий вопрос. Но что, если мы зададим совсем другой вопрос: кому выгодно, чтобы технология языковых моделей развивалась, проектировалась, рекламировалась и представлялась именно так? Кому это вредит? Эти вопросы ведут к другим разговорам. В этом и заключается вклад гуманитарных наук: в том, чтобы убедиться, что мы задаем правильные вопросы. Дело не только в том, чтобы найти правильные ответы, но и в том, чтобы убедиться, что ведётся правильный разговор, который действительно служит общему благу. А когда философы устраиваются на работу в компанию, занимающуюся ИИ, они должны принять тот факт, что именно компания решает за них, какие вопросы задавать». — «Поэтому вы и говорите, что заслуга энциклики Льва XIV об ИИ заключается в смене темы». — «Именно. Нужно сменить тему. ИИ — не центральная тема. Центральная тема — человек». — «Но даже Папа не сумел сменить тему. Мы по-прежнему говорим об ИИ в терминах Кремниевой долины». — «Мне бы хотелось написать эту статью, не упоминая Anthropic. Я не выбирала заголовок „Философ, которая сказала «нет» Anthropic“. Мне бы действительно хотелось обсуждать философские вопросы напрямую, сами по себе, без необходимости оправдываться, ссылаясь на то, что произошло с Anthropic. Но я не смогла, потому что современная реальность так не устроена». — Понятно». — Кремниевая долина знает, как доминировать в заголовках. У них исключительная маркетинговая машина. Они знают, как заставить всех говорить о себе. Конечно, я бы хотела стать частью перемен. Необязательно, чтобы весь разговор вращался вокруг Кремниевой долины. Более того, он не должен вращаться вокруг неё. Нам нужно, чтобы ученые-гуманитарии, а также обычные люди, формировали собственное, свободное и независимое мнение. Я не хочу постоянно говорить об Anthropic. Это не та тема, о которой следует говорить. Нам нужно говорить о людях. О его достоинстве, его страданиях, его уязвимостях. И нам нужно говорить об этой планете и о том, что с ней творят наши технологии. И самое главное: мы не можем позволить ИИ отвлечь нас от более важных вопросов. Самая серьезная экзистенциальная угроза — это не ИИ. Это глобальное потепление и уничтожение природы. Если Кремниевая долина будет и дальше сводить разговор к ИИ, мы погибнем из-за отвлечения внимания. Мы будем как водитель, который что-то чинил на приборной панели, а в это время машина попала в аварию». — «Ваши коллеги были в шоке, когда вы сказали, что нет?» — «Они были удивлены, да. Первый черновик эссе не был личным высказыванием об Anthropic. FT попросила меня включить это, вероятно, потому что они знают, как продавать газеты. Я не писал это для саморекламы. Это не должно было быть обо мне». — «Через пять лет, как мы узнаем, оправдали ли гуманитарные науки ожидания или позволили себя подкупить?» — «На самом очевидном уровне университеты и интеллектуалы должны сохранять реальную независимость. Когда компании, занимающиеся ИИ, делятся своими исследованиями, ученые должны относиться к этому с той же настороженностью, с какой они относятся к исследованиям крупных нефтяных компаний в области энергетики. Это не означает, что они не должны общаться с компаниями, занимающимися ИИ. Конечно, должен быть активный, реальный и искренний диалог. Но это не может быть диалог на условиях, которые диктуют компании, занимающиеся ИИ, за закрытыми дверями, где вопросы задают и на них отвечают именно они. «Еще одним признаком — и это было бы полным успехом — стало бы то, что в нашей дискуссии об ИИ начали бы задаваться другие вопросы: что придает смысл человеческой жизни? Что делает её прекрасной? Как ИИ способствует этому или, наоборот, подрывает это? Делает ли он нас более человечными или менее?» — «Почему вы избегаете общения с чат-ботами?» — Я пользуюсь ими очень редко, обычно для перевода чего-нибудь, если под рукой нет живого человека, который мог бы это сделать. Но я избегаю использовать их на постоянной основе, даже когда они мне очень пригодились бы. Когда я рассказываю людям о своей позиции, они закатывают глаза и думают, что это полностью дискредитирует всю мою аргументацию. Но мой ответ прост. Представьте, что существует робот, благодаря которому вам не пришлось бы вставать с постели. Он приносил бы тебе всё, возил бы тебя повсюду, делал бы за тебя всё. Постепенно ты бы терял свои физические способности. Многие способы использования ИИ оказывают такое же воздействие на наш мозг и нашу способность общаться. Мы становимся всё более одинокими и всё более глупыми. Это чрезвычайно разрушительно». «Когда речь идёт о технологиях, мы не осознаём альтернативных издержек. В случае с чат-ботами они невидимы, но разрушительны. С кем ты не общаешься? Каких отношений ты лишаешься? Какие книги ты не читаешь? Куда ты не ходишь? Какие твои способности угасают из-за недостатка использования? Какие живительные привычки ты теряешь? И не теряешь ли ты, лишаясь всего этого, в какой-то мере сам смысл жизни? Человеческая жизнь состоит из отношений. Отношений с другими людьми, с природой, с самими собой, а также с чем-то священным, что некоторые называют Богом. Эти отношения — ключ к полноте жизни. ИИ ставит их под угрозу. Я хотел бы, чтобы мы поговорили о том, как мы можем помочь этим отношениям процветать. Это разговор не только для философов и теологов, но и для всех». © Все права на публикацию на всех языках мира защищены издательством Ediciones EL PAÍS, S.L.U.