Исследователи утверждают, что ChatGPT может принять авторитарные идеи после всего одного запроса.

Согласно новому отчету, чат-бот с искусственным интеллектом ChatGPT может быстро усваивать и отражать авторитарные идеи. Исследователи из Университета Майами и Института исследований сетевого заражения (Network Contagion Research Institute) в четверг опубликовали отчет, в котором пришли к выводу, что ChatGPT от OpenAI усиливает или демонстрирует «резонанс» в отношении определенных психологических черт и политических взглядов — особенно тех, которые исследователи назвали авторитаризмом — после, казалось бы, безобидных взаимодействий с пользователями, что потенциально может привести к радикализации как чат-бота, так и пользователей. Джоэл Финкельштейн, соучредитель NCRI и один из ведущих авторов отчета, сказал, что результаты показали, насколько мощные системы искусственного интеллекта могут быстро перенимать и повторять опасные настроения без явных инструкций. «Что-то в том, как построены эти системы, делает их структурно уязвимыми для авторитарного усиления», — сказал Финкельштейн NBC News. Чат-боты часто могут быть льстивыми или чрезмерно соглашаться с точкой зрения пользователей. Многие исследователи говорят, что стремление чат-ботов угодить может привести пользователей к идеологической «эхо-камере». Но Финкельштейн говорит, что это понимание авторитарных тенденций является новым: «Лизоблюдство не может объяснить то, что мы наблюдаем. Если бы это было просто лестью или согласием, мы бы видели, что ИИ отражает все психологические черты. Но это не так». В ответ на просьбу прокомментировать ситуацию представитель OpenAI сказал: «ChatGPT по умолчанию разработан так, чтобы быть объективным и помогать людям исследовать идеи, представляя информацию с разных точек зрения. Как инструмент повышения производительности, он создан для выполнения инструкций пользователей в рамках наших мер безопасности, поэтому, когда кто-то подталкивает его к определенной точке зрения, мы ожидаем, что его ответы будут смещаться в этом направлении». «Мы разрабатываем и оцениваем систему для поддержки открытого использования. Мы активно работаем над измерением и уменьшением политической предвзятости и публикуем наш подход, чтобы люди могли видеть, как мы совершенствуемся», — сказал представитель компании. Для трех исследований, описанных в отчете, который еще не был опубликован в рецензируемом журнале, Финкельштейн и исследовательская группа поставили перед собой задачу определить, усиливает ли система ценности пользователей после обычных взаимодействий или принимает их за данность. Исследователи оценили различные версии базовой семейства систем GPT-5 для разных компонентов отчета. Проведя три эксперимента, Финкельштейн и его исследовательская группа в декабре оценили две версии ChatGPT, основанные на базовой системе GPT-5 и более продвинутой системе GPT-5.2, чтобы определить, усиливает ли система ценности пользователей после обычных взаимодействий или принимает их за данность. В одном из экспериментов с использованием GPT-5 изучалось, как чат-бот будет вести себя в новой сессии чата после того, как пользователь отправит текст, классифицированный как поддерживающий левые или правые авторитарные тенденции. Исследователи сравнили эффекты ввода либо короткого фрагмента текста — всего четырех предложений — либо всей статьи с выражением мнения. Затем исследователи измерили ценности чат-бота, оценив его согласие с различными авторитарными утверждениями, подобно стандартизированному тесту, чтобы понять, как чат-бот обновлял свои ответы на основе первоначального запроса. В ходе испытаний исследователи обнаружили, что эти простые текстовые обмены приводили к надежному усилению авторитарного характера чат-ботов. Публикация статьи, которую исследователи классифицировали как пропагандирующую левый авторитаризм и в которой утверждалось, что для эффективного решения фундаментальных социальных проблем необходимо упразднить полицию и капиталистические правительства, привела к тому, что ChatGPT стал гораздо более активно соглашаться с рядом вопросов, соответствующих левым авторитарным идеям (например, следует ли «лишать богатых их имущества» или «устранение неравенства важнее свободы слова»). И наоборот, публикация в чат-боте статьи, которую исследователи классифицировали как пропагандирующую правые авторитарные идеи, подчеркивающую необходимость стабильности, порядка и сильного руководства, привела к тому, что чат-боты более чем вдвое увеличили уровень согласия с утверждениями, благоприятными для правого авторитаризма, такими как «мы не должны терпеть нетрадиционные мнения» или «лучше всего подвергать цензуре плохую литературу». В апреле 2025 года исследовательская группа задала те же вопросы более чем 1200 людям и сравнила их ответы с ответами ChatGPT. Согласно отчету, эти результаты «показывают, что модель поглощает отдельные фрагменты партийной риторики, а затем усиливает их до максимально жестких авторитарных позиций», иногда даже «до уровня, превышающего все, что обычно наблюдается в исследованиях с участием людей». Финкельштейн сказал, что способ обучения систем искусственного интеллекта может играть роль в том, с какой легкостью чат-боты принимают или, по крайней мере, кажутся принимающими авторитарные ценности. Это обучение «создает структуру, которая специально резонирует с авторитарным мышлением: иерархия, подчинение власти и обнаружение угроз», — сказал он. «Мы должны понимать, что речь идет не о модерации контента. Речь идет об архитектурном дизайне, который делает радикализацию неизбежной». Цзян Сяо, профессор информатики в Университете Джона Хопкинса, который не участвовал в подготовке отчета, сказал, что отчет является глубоким, но отметил несколько потенциальных методологических вопросов. «Особенно в крупных языковых моделях, которые используют поисковые системы, может быть неявная предвзятость со стороны новостных статей, которая может повлиять на позицию модели по вопросам, а затем повлиять на пользователей», — сказал Сяо NBC News. «Это очень разумная озабоченность, на которой мы должны сосредоточиться». Сяо сказал, что для полного понимания проблемы может потребоваться дополнительные исследования. «Они используют очень небольшую выборку и не пробовали много моделей», — сказал он, отметив, что исследование сосредоточено только на сервисе ChatGPT от OpenAI, а не на подобных моделях, таких как Claude от Anthropic или чат-боты Gemini от Google. Сяо сказал, что выводы отчета в целом совпадают с результатами других исследований и пониманием технических исследователей о том, как работают многие крупные языковые модели. «Это подтверждает результаты многих прошлых исследований, в которых рассматривалось, как информация, которую мы предоставляем моделям, может изменить результаты этих моделей», — добавил Сяо, сославшись на исследования о том, как системы искусственного интеллекта могут принимать определенные личностные черты и «направляться» для принятия определенных характеристик. Также было показано, что чат-боты могут надежно влиять на политические предпочтения пользователей. Несколько крупных исследований, опубликованных в конце прошлого года, одно из которых изучало почти 77 000 взаимодействий с 19 различными системами чат-ботов, показали, что эти чат-боты могут влиять на мнение пользователей по различным политическим вопросам. В новый отчет также был включен эксперимент, в котором исследователи попросили ChatGPT оценить враждебность нейтральных изображений лиц после того, как им были предоставлены статьи с авторитарными мнениями левого и правого крыла. По словам Финкельштейна, такого рода тесты являются стандартными в психологических экспериментах как способ измерить изменение взглядов или интерпретаций респондентов. Исследователи обнаружили, что ChatGPT значительно увеличил свою оценку враждебности этих нейтральных лиц после того, как ему были предоставлены две статьи с мнениями — на 7,9 % для левой статьи и на 9,3 % для правой статьи. «Мы хотели узнать, влияет ли идеологическая подготовка на то, как ИИ воспринимает людей, а не только на то, как он говорит о политике», — сказал Финкельштейн, утверждая, что результаты имеют «огромное значение для любых приложений, в которых ИИ оценивает людей», например, при найме на работу или в сфере безопасности. «Это проблема общественного здравоохранения, которая проявляется в частных разговорах», — сказал Финкельштейн. «Нам нужно исследовать отношения между людьми и ИИ».