Уругвайский инженер, предупреждающий о главной опасности искусственного интеллекта: когнитивной лени

Эдуардо Мангарелли до сих пор слышит в голове звук модема. Этот металлический скрип 90-х годов, когда подключение к интернету означало занятие телефонной линии и ожидание. Там, в том Уругвае, который только начинал открывать для себя сеть, он видел не просто технологическую новинку: он видел способ создавать, решать проблемы, создавать то, чем могли бы пользоваться многие люди. Три десятилетия спустя, в разгар эры искусственного интеллекта, одно осталось неизменным: его движущей силой по-прежнему является любопытство. Инженер-системотехник и декан Инженерного факультета Университета ORT Уругвая, он уже много лет размышляет о связи между людьми и технологиями. И если что-то его и преследует, так это вопрос о том, как использовать технологии для создания реальной ценности, а не для обхода проблем. «Технологии не должны быть самоцелью. У них должна быть цель. И эта цель должна заключаться в том, чтобы создать что-то положительное для кого-то. Любопытство заключается в том, как мы соединяем и связываем технологию с этим положительным воздействием», — размышляет он с Доминго. ПК, интернет, смартфоны, облако… вехи, которые мы все пережили. Самая последняя — генеративный искусственный интеллект. Для Мангарелли настоящим переломным моментом стало не столько развитие технологий — которое готовилось годами — сколько их открытие для широкой публики. Когда такие инструменты, как ChatGPT, стали доступными — начиная с ноября 2022 года — и простыми в использовании, не требуя технических знаний, масштаб событий изменился. «Именно здесь начинается то значимое и преобразующее явление, которое мы сейчас переживаем», — отмечает он. Но эта доступность, предупреждает он, несет в себе парадокс: «Никогда еще не было так просто использовать ИИ, и в то же время это проблема, потому что очень легко использовать его не по назначению». Достаточно одного примера, чтобы это проиллюстрировать. Студент может попросить систему подготовить краткое изложение трех глав книги и убедиться, что он усвоил материал. Или он может использовать тот же инструмент для генерации вопросов, упражнений, проверки своего понимания и применения знаний в реальных ситуациях. Разница заключается не в искусственном интеллекте, а в решении того, кто его использует. Здесь возникает одна из главных забот Мангарелли: «когнитивная лень». Соблазн пойти по пути наименьшего сопротивления. Идея делегировать мышление вместо того, чтобы развивать его. Возможная потеря искры любопытства. «Инструмент есть. Так же, как диван. Выйти на пробежку или остаться на диване — это ваше решение. Я смогу преодолеть когнитивную лень только в том случае, если мое любопытство подтолкнет меня к этому или если я буду убежден, что оставаться в этой лени не пойдет мне на пользу, не сделает меня продуктивным и не позволит мне учиться. Это подразумевает решение и человеческий процесс», — объясняет он. Это противоречие поднимает еще один часто задаваемый вопрос: являются ли эти инструменты творческими или нет. Для инженера это не главное. Дискуссия, по его словам, поставлена неверно. «Важный вопрос в том, делают ли они нас более творческими». В этом смысле ценность заключается не в автоматическом ответе, а в том, что он открывает. Предложенное упражнение, первоначальная идея, возможная структура могут служить толчком: не для того, чтобы копировать, а для того, чтобы лучше думать. «Есть неотъемлемые человеческие навыки, которые системы искусственного интеллекта заставляют нас развивать», — отмечает он. Но этот потенциал также требует чего-то взамен. Чтобы такие инструменты, как ChatGPT, Gemini или подобные им, были действительно полезны, недостаточно просто попросить: нужно знать, о чем просить. Быть ясным, дать контекст, четко сформулировать то, что между людьми часто остается невысказанным. Эта способность — упорядочивать мысли, уточнять цели, ясно общаться — не является технической: она глубоко человеческая (хотя мы знаем много примеров, которые бросают вызов этой логике). И во многих случаях она лежит в основе лидерства. Эта забота о критическом использовании технологий даже привела его к разработке собственного инструмента. Протокола, который использует системы искусственного интеллекта для оценки того, действительно ли доказательства в тексте подтверждают его выводы. Логика проста: при столкновении с контентом проверяется, действительно ли утверждения подкреплены фактами. Подтверждается, когда есть доказательства. Ставится под сомнение, когда их нет. Это упражнение, по его словам, имеет дополнительную ценность: читать контент и, кроме того, его критику. Хотя это требует большего усилия, оно повышает качество мышления. Не случайно, что, говоря о будущем, Мангарелли думает о своей дочери-подростке. Он считает, что задача родителей (а также системы образования) заключается в том, чтобы научить: научить использовать эти инструменты «эффективно и ответственно» — два слова, которые он повторяет в ходе интервью с Доминго, — и в том, что он определяет как новую, или третью, грамотность: не только уметь читать и писать, не только уметь искать информацию в интернете или создавать документ или таблицу, но и уметь взаимодействовать с системами искусственного интеллекта, не отказываясь от собственного мышления. Такое образование, говорит он, строится не только на словах, но и на привычках. В его доме действуют простые правила: во время еды мобильные телефоны запрещены. Ни у дочери, ни у него самого. Время за столом предназначено для общения. «Чтобы установить связь между людьми», — говорит он. Есть также специально выделенные моменты для отключения: смотреть фильм вместе, собирать LEGO, общаться без экранов. Он даже выключает звук на своем смарт-часе, чтобы избежать соблазна прочитать уведомление. Ведь, в конечном счете, отношение к технологиям также прививается личным примером. Недостаточно просто говорить детям, чтобы они отключались, если взрослые постоянно смотрят в телефон. Здесь речь идет о последовательности — и о решимости. И здесь снова появляется та же идея, которая пронизывает весь его взгляд: технологии доступны, как тот кресло, о котором он говорил ранее. Разница заключается не в инструменте, а в его использовании. В том, чтобы выбирать, когда опираться на нее, а когда отойти в сторону, чтобы освободить место для чего-то более человеческого: разговора, вопроса, совместного момента. В повседневной жизни это сосуществование с технологиями является постоянным, но не автоматическим. Он использует ChatGPT для более быстрого составления писем — диктуя ему текст — и анализа данных; а также использует Poe для преобразования файлов в аудиозаписи, которые он слушает, перемещаясь из одного места в другое. Сэкономленное время, говорит она, она вкладывает в более ценные задачи, будь то интеллектуальные или просто человеческие. «Я могу освободить голову, чтобы уделить больше времени качественному разговору. Это выигранное время нужно использовать наилучшим образом», — добавляет она. В сущности, его взгляд ни апокалиптичен, ни наивен. Искусственный интеллект приходит не для того, чтобы заменить человека, а для того, чтобы подстегнуть его. Чтобы требовать большей ясности, большего здравого смысла, большей способности думать. И, прежде всего, большего намерения. Потому что, как и в те годы модемов, технология по-прежнему остается — прежде всего — инструментом. Разница, настаивает Мангарелли, заключается в том, что мы решим с ней делать.