Точка невозврата? Предварительное исследование предупреждает о когнитивной зависимости от ИИ

Обсуждения рисков, связанных с искусственным интеллектом (ИИ), как правило, сосредоточены на футуристических сценариях: машины, превосходящие людей, массовая автоматизация или угрозы глобальной безопасности. К этим опасениям добавляются предупреждения таких деятелей, как Сэм Альтман, Илон Маск и Дарио Амодеи, а также вопросы, поднимаемые различными международными организациями в связи с ускоренным развитием этой технологии. «Однако, помимо этих потенциальных рисков, на первый план выходит более насущная проблема: зависимость. В предварительной научной работе, опубликованной 11 дней назад на платформе ArXiv, были смоделированы условия, при которых различные социальные группы — от семьи или школы до целого общества — могут сохранить или утратить автономию в условиях интенсивного использования генеративного искусственного интеллекта». По мнению авторов, крайняя зависимость от этих инструментов может нарушить фундаментальные когнитивные процессы и изменить то, как мы понимаем мир. В исследовании отмечается, что в отсутствие социальных сдерживающих факторов отношения с искусственным интеллектом могут приобрести черты, схожие с прогрессирующей зависимостью: чем больше когнитивных задач передается на откуп ИИ, тем сложнее становится восстановить определенные способности к рассуждению и анализу без технологической поддержки». Работа посвящена крупномасштабным языковым моделям (LLM), то есть системам, способным отвечать на вопросы, обобщать информацию, составлять тексты или решать задачи на основе огромных объемов данных. Их главное преимущество является одновременно одним из факторов, объясняющих их быстрое распространение: они дают мгновенные ответы и снижают усилия, необходимые для выполнения множества интеллектуальных задач. «Опыт российского шахматиста Гарри Каспарова после его поражения от Deep Blue в 1997 году служит иллюстрацией части этого явления. После того эпизода Каспаров продвигал концепцию «шахмат кентавра», основанную на сотрудничестве между людьми и компьютерами для достижения уровня производительности, превосходящего тот, которого каждая из сторон могла бы достичь в одиночку. Но новое исследование ставит другой вопрос: что происходит, когда такое взаимодействие перестает быть единичным инструментом и становится повседневной практикой для миллионов людей. «Полезность этих систем неоспорима. Действительно, многие экономисты считают, что искусственный интеллект окажет влияние, сопоставимое с влиянием великих технологических революций прошлого. Авторы работы утверждают, что эта способность решать проблемы и упрощать задачи способствует его массовому внедрению. Однако они предупреждают, что это явление зависит не только от индивидуальных решений. «Согласно предложенной модели, существуют также решающие социальные факторы. Когда школа, компания или сообщество начинают поощрять или требовать постоянного использования искусственного интеллекта, его внедрение ускоряется. В таких условиях те, кто не использует эти инструменты, могут оказаться в невыгодном положении по сравнению с теми, кто ими пользуется». «Напротив, когда сообщество ценит независимое мышление, проверку информации и самостоятельное решение проблем, может возникнуть коллективное сопротивление зависимости. Авторы называют это явление «возвращением к отключению»: способностью чередовать использование искусственного интеллекта с видами деятельности, требующими самостоятельного мышления, ручного труда или анализа без технологической поддержки. «Одной из наиболее примечательных концепций исследования является понятие «точки невозврата». Исследователи утверждают, что при определённых социальных условиях, как только использование этих инструментов превышает определённый порог, восстановить привычки самостоятельного мышления может оказаться весьма сложно. «Это явление зависит от трёх основных факторов: социального или институционального давления, побуждающего использовать искусственный интеллект; индивидуальной способности вновь решать проблемы без посторонней помощи; а также силы культурных норм, поощряющих независимое мышление». Когда последние ослабевают, а давление в пользу внедрения технологий усиливается, авторы описывают сценарий «неконтролируемого коллапса»: ускоренное распространение технологической зависимости, сопровождающееся постепенной утратой способности решать проблемы без внешней поддержки. «В других сценариях переход может происходить более постепенно. Если у людей сохраняются привычки самостоятельного мышления, превосходящие по силе социальное давление, побуждающее использовать данный инструмент, рост зависимости замедляется, что позволяет разработать механизмы адаптации. По мнению исследователей, эта временная разница имеет решающее значение, поскольку дает возможность вмешаться до того, как уровень зависимости достигнет уровня, который будет трудно обратить вспять». Исходя из этих сценариев, в работе предлагаются различные стратегии, направленные на поддержание баланса между людьми и системами искусственного интеллекта. Некоторые из них направлены на изменение социальной и образовательной среды: снижение давления, способствующего безразборному использованию этих инструментов, и укрепление норм, поощряющих критическое мышление, проверку информации и независимый анализ. Другие меры сосредоточены на личности. Среди них — задания, требующие самостоятельного размышления перед обращением к языковой модели, формы оценки, поощряющие критическое мышление, и образовательные протоколы, отдающие приоритет построению знаний, а не немедленному поиску ответов». В самых крайних случаях авторы даже отмечают необходимость стратегий «технологической детоксикации», направленных на восстановление когнитивных навыков, вытесненных чрезмерной зависимостью от искусственного интеллекта. «Основная идея исследования заключается не в том, чтобы отвергнуть эти инструменты, а в том, чтобы не допустить, чтобы они заменили способности, которые исторически считались важнейшими. Поэтому исследователи предлагают школам, университетам и организациям продвигать такие способы использования, при которых искусственный интеллект выступает в качестве поддержки человеческого мышления, а не его замены. «Формула, которую они формулируют, проста: сначала думать, а потом обращаться к ChatGPT. Или, как резюмируют сами авторы, следовать логике «сначала думать, потом использовать ChatGPT».