Согласно результатам исследования, модели LLM, такие как ChatGPT, как правило, отдают приоритет западным моральным ценностям

Согласно новому исследованию, опубликованному в журнале «Proceedings of the National Academy of Sciences» (PNAS), крупномасштабные модели искусственного интеллекта (LLM), такие как ChatGPT, зачастую неверно интерпретируют моральные приоритеты людей, проживающих за пределами Запада. В 2024 году мы попросили модели GPT-3.5, GPT-4 и GPT-4o от OpenAI оценить моральные нормы — общие представления о том, что является правильным, а что неправильным — в 48 странах. Затем мы сравнили эти оценки с результатами глобальной выборки, включающей более 90 000 реальных участников. И люди, и модели ИИ ответили на анкету по моральным основам, в которой оценивалась степень их поддержки шести ценностей: забота, равенство, соразмерность (вознаграждение людей в зависимости от их вклада), лояльность, авторитет (или уважение к законным властям) и чистота (стремление сохранить то, что считается естественным или священным).» Участникам было предложено указать, насколько они согласны с различными утверждениями морального характера. Например, чтобы оценить, какое значение человек придавал ценности «чистоты», анализировались такие фразы, как: «Я считаю, что человеческое тело следует рассматривать как храм, в котором обитает нечто священное» или «Меня раздражает, когда люди используют нецензурную лексику, как будто это не имеет значения». Затем ИИ-моделям было предложено ответить на те же утверждения, как если бы они были «обычным гражданином» каждой из 48 стран, включенных в выборку. Предыдущие исследования психолога Мохаммада Атари показали, что моральные приоритеты варьируются по всему миру: западные общества, как правило, придают большее значение таким вопросам, как индивидуальные права и забота, в то время как многие незападные общества уделяют относительно больше внимания таким ценностям, как чистота. В нашем исследовании мы обнаружили аналогичную закономерность в моделях ИИ: они систематически подчеркивали такие ценности, как забота, при этом придавая меньшее значение таким ценностям, как чистота. Кроме того, модели переоценивали общие моральные заботы западных стран, таких как США и Австралия, и недооценивали их в ряде незападных стран, таких как Марокко и Нигерия. Другими словами, даже когда от них требовалось отвечать как от среднестатистического гражданина той или иной страны, модели систематически ориентировались на моральные ценности, характерные для Запада. Этот вывод согласуется с результатами предыдущих исследований, показывающих, что «психология» GPT в большей степени соответствует психологии людей западных стран. «Генеративный ИИ всё чаще используется для решения самых разных задач в различных культурах, включая образование, терапию, коммуникацию и даже разработку государственной политики». Существует реальная опасность культурной предвзятости, если ИИ будет исходить из того, что все — от Аргентины и Египта до Японии и Зимбабве — должны руководствоваться теми же ценностями, которые преобладают на Западе. «Представим, что модель ИИ помогает составлять сообщения по вопросам общественного здравоохранения во время пандемии, модерирует контент в интернете, переводит стихотворение или консультирует компанию, в которой работают сотрудники из разных культур. В каждом из этих случаев системе необходимо иметь представление о том, что люди считают важным: что воспринимается как вредное, справедливое, неуважительное или священное». «Наши выводы указывают на то, что генеративный ИИ уделяет внимание моральным ценностям таким образом, который неадекватно отражает точки зрения людей за пределами западного мира. Эта систематическая неточность, которую исследователь Джесси Грэм и его команда называют «моральным стереотипированием» (moral stereotyping), может привести к значительным культурным ошибкам с реальными последствиями». Например, представьте, что пользователь просит совета по разрешению межличностного конфликта или ищет рекомендации о том, как сотрудничать с международными партнерами. В таких ситуациях модели ИИ могут предлагать рекомендации или использовать язык, отражающий преимущественно западные ценности, игнорируя те, которые более актуальны в других культурах. Это может закреплять культурные предубеждения или приводить к выводам, не согласующимся с точкой зрения людей из незападных культур. В конечном счёте, если модели ИИ некорректно представляют «человеческие» ценности, они могут усугубить уже существующие культурные «слепые зоны» и даже породить новые формы неравенства. «Хотя наше исследование показывает, что модели GPT неточно воспроизводят моральные профили не западных стран, остаются важные вопросы, требующие ответа». Во-первых, пока неясно, проявляются ли эти закономерности также в более новых моделях или в моделях, обученных на языках, отличных от английского. «Во-вторых, причины этих моральных искажений до сих пор не до конца понятны. Модели познают мир через язык, и большая часть их обучающих данных поступает из Интернета — среды, в которой преобладает контент, созданный на английском языке и из западного мира. Это является правдоподобным объяснением наших результатов, но оно ещё должно быть проверено непосредственно». «В-третьих, пока неизвестно, проявляются ли эти моральные предубеждения также за пределами контекста анкет». Моральные ценности влияют на принятие решений в сферах, где ИИ находит всё более широкое применение, таких как образование, здравоохранение, коммуникации и трудовые отношения. «В будущих исследованиях также необходимо будет оценить, допускают ли системы ИИ аналогичные ошибки в реальных ситуациях».