Ключ к тому, чтобы ИИ не повредил нашу способность мыслить

В мире, где искусственный интеллект все больше интегрируется в повседневную жизнь, нейробиолог Флоренсия Лабомбарда, исследователь Conicet и основательница Tomátelo con Ciencia, предлагает срочно задуматься над тем, как не дать технологии думать за нас. «Искусственный интеллект меняет мозг, но то, как он это делает, зависит от того, как мы с ним взаимодействуем. Он может заменить наше мышление или усилить его. Ключ к этому — в метапознании», — заявила она во время саммита «Бизнес будущего», организованного LA NACION. Специалист объяснила, что метапознание — способность наблюдать и направлять собственное мышление — позволяет превратить ИИ в инструмент для критического мышления, а не в замену рассуждений. «Мозг чрезвычайно сложен, но также и немного ленив. Всякий раз, когда он может делегировать функцию надежному инструменту, он делает это без проблем. И это, если мы не управляем этим процессом, может снизить нашу когнитивную автономию». На простых примерах, таких как использование GPS или калькулятора, Лабомбарда объяснила концепцию когнитивной разгрузки: склонность мозга к экстернализации задач, требующих энергии. «Когда мы используем GPS только для того, чтобы подчиниться, мозг отдыхает. Но когда мы используем его, чтобы понять, как ориентироваться и построить ментальную карту, активируется ключевая область мозга, называемая гиппокампом, которая увеличивает свой объем и улучшает нашу пространственную память». По мнению исследователя, то же самое происходит с цифровыми инструментами и моделями искусственного интеллекта: «Если мы просто подчиняемся алгоритму, мы отказываемся от таких важных функций, как принятие решений, аргументация или решение проблем. А это и есть основа критического мышления». По словам специалиста, несколько недавних исследований подтверждают это наблюдение. В одном из них группы, которые решали тест на критическое мышление с помощью искусственного интеллекта, получили все правильные результаты, но не смогли объяснить свое мышление. «Группа, которая работала без ИИ, допустила больше ошибок, но лучше поняла мыслительные процессы, лежащие в основе каждого ответа. В первом случае освободившиеся когнитивные ресурсы были использованы для отдыха», — пояснила она. Нейробиолог предупреждает, что такая удобство может привести к «когнитивной эрозии», если мозг не перераспределит эти ресурсы на сложные задачи. «ИИ может думать за меня, творить за меня, решать за меня. Но тогда что мне делать со своим мозгом?». Ответ, по его словам, заключается в использовании технологий для обучения контролю над контентом и мыслительными процессами: проверке, контекстуализации и оценке информации. «Мы знаем, что искусственный интеллект может заблуждаться, поэтому мы должны оценивать достоверность того, что он производит, его актуальность, алгоритмические искажения и этические последствия. Метакогниция позволяет нам сохранять контроль и не допускать, чтобы когнитивная разгрузка превратилась в зависимость», — пояснил он. Лабомбарда даже определил инженерию подсказок — умение формулировать хорошие запросы к моделям — как форму метакогниции. «Это не технический навык, а когнитивный. Он подразумевает понимание того, что я хочу, как я хочу получить информацию и что я буду с ней делать». Она также предложила рассматривать ИИ как зеркало, чтобы узнать о своем собственном уме: «Мы можем попросить его сказать нам, как мы думаем, исходя из эмоций, доказательств или авторитета. Если мы посмотрим, как «думает» ИИ, мы сможем узнать о своем собственном мышлении». Ученый подчеркнула, что технология сама по себе не является ни хорошей, ни плохой, но она усиливает умственные привычки, с которыми ее используют. «Если мы позволим ей думать за нас, мы потеряем автономию. Но если мы используем освободившиеся ресурсы для критических и метакогнитивных функций, ИИ может усилить наш интеллект». В заключение он призвал аудиторию изменить парадигму: «Искусственный интеллект не должен заменять человеческое познание, а должен сделать нас более осознанными в отношении него. Он дает нам возможность наблюдать за тем, как мы учимся и как мы думаем, что раньше было невидимым».