«Он говорит мне то, что я хочу услышать»: почему все больше людей видят в искусственном интеллекте гуру жизни

Искусственный интеллект (ИИ) занимает все более заметное место в повседневной жизни. Этот сверхмощный инструмент больше не является прерогативой программистов и экспертов в области технологий, а присутствует в мобильном телефоне, который мы носим в кармане, в запросах и разговорах, которые мы делаем. Мы также обращаемся к нему за помощью и доверяем ему свои сомнения. Последствия этой трансформации уже заметны: недавно в новостях появилась история, в которой гречанка решила развестись с мужем по совету ChatGPT. В частности, она попросила модель применить свои знания о тасеографии - гадании, которое интерпретирует узоры на чайных листьях или кофейных чашках, - и ИИ сообщил ей, что ее партнер «фантазирует» о женщине, в имени которой есть начальная буква «Е», а также что ему суждено завести с ней роман. «При дальнейшем чтении ChatGPT сообщил женщине, что ее муж неверен, и, разгневанная, она решила положить конец их 12-летнему браку». "То, что искусственный интеллект произведет революцию в нашем взаимодействии с технологиями, - это факт. Но почему мы верим в это почти слепо? Почему мы не подвергаем сомнению их ответы, хотя знаем, что это системы, обученные на миллионах данных, которые генерируют контент на основе заученных шаблонов, и что на самом деле они не думают и не знают, что говорят? Людям всегда нужно верить во что-то волшебное, в то, что кто-то скажет нам, что делать, потому что тогда не вы принимаете решение, а кто-то другой. Этот поиск быстрого и волшебного ответа - наша инфантильная часть, которая хочет решить проблему и быстро увидеть ответ, а не брать ответственность на себя", - объясняет Мирта Коэн, действительный член Аргентинской психоаналитической ассоциации (APA) по дидактическим функциям. «Патриция О'Доннелл, психиатр, психоаналитик и член АПА, считает, что эти мгновенные реакции не учитывают наши эмоции и мысли, »не требуя времени на ожидание, размышление и обдумывание". «Мария Пилар Гарсия Боссио, доктор социальных наук и профессор Университета Торкуато Ди Телла (UTDT) и Аргентинского католического университета (UCA), в свою очередь, подчеркнула растущее присутствие искусственного интеллекта в обществе, которое становится все более цифровым и обезличенным: »Мы настолько привыкли общаться с другими с помощью цифровых средств, что легко забыть, что мы говорим с искусственным интеллектом, а не с человеком, тем более что технология стала более изощренной в своем дискурсе, способной адаптировать свой язык к нашим потребностям". «Какая разница между общением с подругой в WhatsApp, рассказывающей о своих проблемах, и разговором с искусственным интеллектом, если я не знаю, что на другой стороне - человек или бот?» - размышляет специалист. Она также упомянула об одной из самых привлекательных сторон этой технологии: ее способности давать нам ответы, адаптированные к нашим потребностям. "Она учится у нас и, как правило, усиливает предвзятость подтверждения, то есть питает нашу склонность искать мнения, которые соответствуют нашим собственным вкусам и убеждениям. То есть он говорит мне то, что я хочу услышать", - говорит он. "От астролога и гадателя на таро до специалиста по тасеографии и консультанта по романтическим отношениям, ChatGPT стал спутником, проводником и советчиком по жизни для миллионов пользователей по всему миру. Одним словом, ключевым инструментом для принятия решений и проверки концепций. "Например, в сентябре 2024 года использование этого инструмента в качестве детектора признаков токсичности - так называемых красных флажков - в разговорах WhatsApp стало вирусным в социальных сетях. В деталях, если отправить ей скриншот чата, система анализирует подозрительное поведение, такое как манипуляция, ревность или контроль. Однако ее ответы не всегда точны. "Языковые модели могут обрабатывать множество текстов параллельно и находить взаимосвязи между словами в больших масштабах. Они читают, но не так, как мы", - говорит Фреди Вивас, инженер и профессор ИИ в Университете Сан-Андреса. В частности, модели ИИ «читают», предсказывая слова". «Они используют систему под названием Attention, которая позволяет им понимать контекст каждого слова в предложении», - пояснил Вивас. По этой причине эксперт уточнил, что вместо того, чтобы рассуждать, эти системы повторяют шаблоны статистическим способом. Если вы попросите языковую модель объяснить, почему «Битлз» были успешной группой, она даст убедительный ответ, но это не значит, что она разбирается в музыке". Происходит так, что он «читает» много текстов на эту тему, потому что у него много источников информации", - проиллюстрировал он. Однако Вивас подчеркнул, что постоянное развитие этих инструментов может исправить подобные ошибки в ближайшем будущем: "Аналогично, сегодня в разговорах на X (бывший Twitter) часто можно увидеть обращения к Grok, искусственному интеллекту платформы, с просьбой объяснить или подтвердить информацию, опубликованную в сообщении, и многие пользователи воспринимают этот комментарий как достоверный и неопровержимый, даже если иногда в нем есть хорошая информация, а в других случаях он явно неверен. Эти модели стараются быть полезными, чтобы вы чувствовали себя комфортно при взаимодействии. Если это разговор, то вы хотите продолжать использовать инструмент. Поэтому в некоторых случаях они настраивают вас на подхалимский разговорный тон. Вы задаете им вопрос, а они отвечают: «Я думаю, это хорошая идея, отлично». Это может быть воспринято как создание впечатления, что они все знают (даже если их ответы статистические). Техника, используемая для того, чтобы попытаться уточнить результаты и научиться, скажем так, коллективно, называется обучением с подкреплением и обратной связью (когда мы говорим им, что ответ был хорошим или нет). Инструменты учатся на взаимодействии с человеком, становясь все лучше и лучше«. »Вера в то, что технологии совершенны и не допускают ошибок, не является чем-то новым. Начиная с первых компьютеров и калькуляторов и заканчивая самыми современными GPS, общество всегда было склонно слишком доверять машинам. Эксперты называют это явление предвзятостью автоматики, которая, в свою очередь, приводит к автоматическому самодовольству, когда люди менее способны обнаружить сбои, когда устройство находится под контролем, поясняется в статье BBC. «В этом контексте чрезмерное использование все еще несовершенной технологии в качестве »виртуального компаньона«, который влияет на наши решения, чревато последствиями и потенциальными долгосрочными опасностями». "Действительно, исследование How AI and Human Behaviors Shape Psychosocial Effects of Chatbot Use: A Longitudinal Randomized Controlled Study, проведенное MIT Media Lab и OpenAI в марте, показывает, что те, кто ежедневно тратит больше времени на набор текста или общение с ChatGPT, склонны сообщать о более высоких уровнях эмоциональной зависимости и проблемного использования чатботов, а также о более высоких уровнях одиночества. В докладе «Hesitant Hopeful: How Different Generations View Artificial Intelligence», опубликованном Barna Group в январе 2024 года, в котором приняли участие 1500 взрослых жителей США, проведя онлайн-опрос, указывается, что миллениалы больше всего используют эту технологию по сравнению с другими поколениями. В конкретных цифрах 45 % сказали, что используют ИИ хотя бы раз в неделю, и причины, по которым они обращаются к ИИ, связаны с личными проблемами, а не с работой. «Исследование также показывает, что половина представителей поколения Z говорят, что они »в некоторой степени« (39 %) или „определенно“ (11 %) испытывают желание внедрить ИИ в свою жизнь. »Опасность изоляции дает склонность к аутизму, особенно у тех, кто склонен защищаться в одиночестве", - сказал Андрес Раковский, психолог и бывший президент APA. По его словам, несмотря на попытки ИИ «очеловечить» себя, он никогда не сможет сравниться с человеческими связями. «Парадоксально, но такое количество связей может усилить чувство одиночества, поскольку субъект, погруженный во временное и эфемерное удовлетворение, становится более одиноким и может попытаться укрыться в пустом мире», - размышляет он. "