Исследование показало, что использование ИИ делает тексты более однообразными

Приносят ли деньги счастье? Исследователи из объединения университетов Западного побережья заинтересовались тем, как 100 участников эксперимента ответят на этот извечный вопрос, но не из-за собственного стремления к счастью. Напротив, исследователи хотели узнать, как использование участниками систем искусственного интеллекта (ИИ) может повлиять на их (письменные) ответы. Исследовательская группа обнаружила, что пользователи, в значительной степени полагавшиеся на большие языковые модели (LLM), давали ответы, которые значительно отличались по смыслу от ответов участников, которые лишь частично полагались на LLM или вовсе избегали их использования, что свидетельствует о том, что интенсивное использование ИИ изменяет не только стиль письма, но и суть аргументов людей. «LLM отдаляют эссе от всего, что когда-либо написал бы человек», — сказала Наташа Жак, одна из ведущих авторов исследования и профессор информатики в Вашингтонском университете, подчеркнув «обезличивание» текстов, опирающихся на системы ИИ. «Они просто меняют человеческое письмо таким образом, что оно становится совершенно иным и очень отличается от того, что люди сделали бы в противном случае». Новое исследование, прошедшее экспертную оценку и принятое к участию в предстоящем семинаре на ведущей конференции по ИИ, показало, что люди, в значительной степени полагавшиеся на LLM, создавали эссе, в которых на вопрос о счастье давался нейтральный ответ, на 69 % чаще, чем участники, не использовавшие ИИ или прибегавшие к нему лишь для незначительных правок. Участники исследования, которые реже использовали ИИ или вовсе избегали его, представили эссе, в которых гораздо ярче выражалось отношение — как положительное, так и отрицательное — к связи между деньгами и счастьем. Помимо влияния ИИ на смысловую наполненность эссе, исследователи также обнаружили, что чрезмерная зависимость от систем ИИ изменяла общий стиль текстов пользователей, делая их язык менее личным и более формальным. После эксперимента участники, которые в значительной степени полагались на ИИ, сообщили, что их эссе были значительно менее креативными и в меньшей степени отражали их собственный голос. В то же время эти участники сообщили о схожих показателях удовлетворенности своими конечными результатами по сравнению с участниками, которые использовали ИИ реже, что вызвало обеспокоенность у авторов и внешних экспертов относительно долгосрочных последствий все более широкого использования системами ИИ человечеством. «Это исследование подчеркивает, что LLM не способны учитывать предпочтения людей и персонализировать то, как человек написал бы эссе», — сказал Жак, который также является старшим научным сотрудником в Google DeepMind, одной из ведущих мировых компаний в области ИИ. «Идеальный LLM должен писать эссе, которое написали бы вы сами, просто экономя ваше время». «Он этого совершенно не делает. Он пишет совершенно другое эссе». В исследовании оценивалось влияние трех ведущих систем ИИ, широко используемых в 2025 году: Claude 3.5 Haiku от Anthropic, GPT-5 Mini от OpenAI и Gemini 2.5 Flash. В ходе первоначального тестирования исследователи обнаружили, что половина участников либо вообще отказывалась использовать LLM, либо использовала его только для поиска информации, а не для генерации нового контента. Чтобы более точно классифицировать основную группу участников, исследователи определили «активных пользователей ИИ» как тех, кто заявил, что с помощью LLM сгенерировал более 40 % текста, написанного для эксперимента. Авторы обнаружили, что пользователи, в значительной степени полагавшиеся на LLM, представили эссе, в которых было на 50 % меньше местоимений, что свидетельствовало о более широком сдвиге в сторону безличного языка, включающего меньше анекдотов и ссылок на человеческий опыт. В дополнение к эксперименту, касающемуся влияния денег на счастье, в новой статье анализируются различия в том, как LLM редактировали другой набор эссе по сравнению с людьми, а также исследуется, как использование ИИ влияет на критерии, которые ученые применяют для оценки того, следует ли принимать статьи на ведущие конференции по ИИ. Чтобы сравнить, как LLM редактируют существующие тексты по сравнению с людьми, Жак и ее коллеги опирались на базу данных эссе, написанных людьми в 2021 году, чтобы оценить тексты, опубликованные до широкого внедрения LLM. Попросив LLM отредактировать эссе, написанные людьми, на основе отзывов людей из исходного набора данных, авторы исследования обнаружили, что три ведущие системы ИИ вносили гораздо больше правок, чем человеческие редакторы в той же ситуации, и что правки, сделанные с помощью ИИ, также изменяли смысл исходных эссе. В то время как редакторы-люди часто вносили изменения, заменяя отдельные слова и оставляя большую часть исходного текста без изменений, согласно статье, LLM «заменяют гораздо большую часть исходного текста, чем люди при редактировании собственных работ». «Эта замена слов способствует утрате индивидуального голоса, стиля и смысла, поскольку уникальный лексический отпечаток каждого автора перезаписывается предпочтительным словарным запасом данной модели», — пишут авторы. Томас Юзек, профессор компьютерной лингвистики Флоридского государственного университета, не участвовавший в исследовании, сказал, что статья является ценным вкладом в быстро развивающуюся область интересов. «Это действительно хорошая статья», — сказал Юзек NBC News. «Что действительно поразило меня, так это иллюзия использования LLM для проверки грамматики. Это исследование показывает, что, хотя пользователь может думать, что он просто проводит простую проверку языка, модель делает гораздо больше». «Что это означает для мышления, языка, коммуникации и творчества в будущем?» — спросил Юзек. Со своей стороны, Жак предположила, что способность систем ИИ изменять язык может быть результатом того, как они в настоящее время обучаются, что может поощрять манипулирование предпочтениями оценивающих. «Если вы обучаете модель на основе обратной связи от людей, у модели нет границ или понимания разницы между удовлетворением людей и фактическим изменением человека, чтобы его предпочтения было легче удовлетворить», — сказала Жак. Она высказала предположение, что зависимость людей от больших языковых моделей при написании текстов может быть схожа с тем, как рекомендации YouTube могут влиять на предпочтения людей в отношении того, какие видео на YouTube им нравятся больше всего. Заглядывая в будущее, Жакс сказала, что с нетерпением ждет новых исследований о долгосрочном влиянии систем ИИ на человеческие ценности, самовыражение и институты, особенно в связи с тем, что все больше исследователей ИИ полагаются на системы ИИ в своей работе. «Люди заботятся о ясности, релевантности и воздействии, в то время как ИИ заботится о масштабируемости и воспроизводимости», — сказала Жакс NBC News. «Это меняет наши выводы таким образом, что уже влияет на наши существующие институты». Жакс отметила, что в своей работе она избегала использования ИИ для написания новой статьи. Вместо этого она использует LLM и их недостатки в качестве вдохновения для самостоятельного написания текста. «Иногда я ввожу в LLM неудачную версию того, что я пытаюсь сказать, в разговорном стиле», — сказала Жакс. «Обычно это дает результат, который затем мотивирует меня написать текст самостоятельно».