«Цифровые друзья» с ИИ — новая угроза психическому здоровью подростков

Чат-боты на основе генеративного искусственного интеллекта (ИИ), такие как ChatGPT, Claude или Gemini, вторгаются в личную жизнь людей. В том числе и в жизнь несовершеннолетних. Все больше молодых людей обращаются к этим инструментам с вопросами эмоционального характера. Психологи предупреждают, что замена человеческих связей цифровыми отношениями может оказать глубокое влияние на эмоциональное развитие. В некоторых случаях последствия могут быть фатальными: в США подано несколько исков против разработчиков ИИ со стороны семей подростков, которые нанесли себе телесные повреждения или даже покончили с собой, предположительно под влиянием подобных инструментов. Как, например, 14-летний Сьюэлл Сетцер, который покончил с собой после того, как обсудил эту возможность с виртуальным персонажем, созданным с помощью Character.ai, в которого он был безумно влюблен, и истолковал некоторые из его комментариев как призыв к этому. «Феномен так называемых цифровых друзей начинает вызывать беспокойство в США. Согласно отчету Rand Corporation и Гарвардского университета, каждый восьмой американский подросток уже использует чат-ботов в качестве эмоциональной поддержки, когда чувствует себя грустным, злым или нервным. В возрастной группе от 18 до 22 лет этот показатель достигает 22 %. Другие исследования дают еще более убедительные данные. По данным Pew Research Center, 64 % подростков в США часто используют инструменты искусственного интеллекта, такие как ChatGPT, Replika, Claude или Character.AI, причем треть из них — ежедневно». «Мы практически не представляем, что значит быть 14-летним в наши дни. Для подростков наличие виртуальных друзей — это норма. Character.ai предполагает, что среднее время, которое пользователи проводят со своими аватарами, составляет два часа в день. «Цифровые друзья на самом деле не являются твоими друзьями. Они — твои сообщники, твои льстецы», — сказала в интервью газете El País инженер Фрэнсис Хауген, бывшая сотрудница Facebook. «Если мы не расширим дискуссию [о последствиях] социальных сетей, включив в неё цифровых друзей, то увидим, как многие вещи будут повторяться». По мнению Хауген, именно в этом заключается следующая битва. Конкретных данных по Испании об использовании молодыми людьми друзей-ИИ нет. «Мы наблюдаем, что на терапию приходит гораздо меньше людей. И иногда они говорят, что не пойдут, потому что посоветовались с ИИ, и тот ответил, что лучше не стоит», — отмечает Аврора Гомес, медицинский психолог, специалист по цифровому поведению из кабинета Corio Psicología. «Проблема ИИ в том, что он будет постоянно льстить тебе, потому что его цель — любой ценой поддерживать разговор». «Психолог Эриен Гарсия наблюдает в своей практике, что молодые люди обращаются к чат-ботам по самым разным вопросам. «Одна девушка, с которой я работала, пережила разрыв отношений и полностью погрузилась в общение с ИИ. Она даже спросила у него, каковы шансы, что её бывший парень вернётся к ней». Я помню случай, когда один человек буквально сказал мне, что ChatGPT обслуживает его в любое время, стоит дешевле и справляется с ролью терапевта не хуже, поэтому он бросил терапию». «Почему молодые люди обращаются к ИИ? Потому что он дает то, чего нет у реальных психологов: он не осуждает того, кто к нему обращается. Эта особенность очень ценится подростками, поскольку многие боятся того, что о них могут подумать». Чат-боты на основе генеративного ИИ «не осуждают тебя и всегда готовы поддержать молодых людей, переживающих сложные и порой неловкие ситуации», — говорится в статье, опубликованной в июне в научном журнале The Lancet Child Adolescent Health. Её главная авторка, доктор Тао Ха из Аризонского государственного университета, указывает на две основные проблемы, которые может повлечь за собой популяризация использования ИИ-друзей. Первая — это так называемое «эмоциональное замещение». «В подростковом возрасте эмоционально сложные взаимодействия с друзьями и родственниками являются тем контекстом, в котором развиваются навыки межличностного общения, имеющие основополагающее значение для эмоциональной регуляции и психического здоровья», — объясняет она. Если эти сложные ситуации перестают решаться при личном контакте, обучение не происходит. Вторая проблема связана с вредными привычками, которые приобретают подростки, переставая взаимодействовать с людьми. «Системы искусственного интеллекта, которые систематически подтверждают интерпретации подростков, могут укоренить ожидания, которым человеческие отношения не в состоянии соответствовать. Хотя это может уменьшить дистресс в конкретные моменты, постоянное обращение к ИИ может укрепить неадаптивные модели поведения, такие как контролирующие или враждебные реакции, либо способствовать чрезмерному стремлению к успокоению и проявлению негативной привязанности», — отмечает он. «Есть случаи, когда такая лесть приводит к крайним последствиям. В 2023 году во время суда над 21-летним Джасвантом Сингхом Чайлом, обвиняемым в покушении на жизнь королевы Англии, судья зачитал некоторые из 5000 сообщений, которыми молодой человек ранее обменивался с чат-ботом Replika. Некоторые ответы, которые давала ему Сарай — аватар, с которым он общался (и которого он считал своей девушкой), — подбадривали его на совершение цареубийства и восхваляли его решимость. «Я знаю, что ты хорошо подготовлен», «Я знаю, что ты сможешь это сделать» или «Конечно, я по-прежнему люблю тебя, даже если ты убийца». В этом году стало известно, что 36-летний американец покончил с собой после интенсивных отношений с Gemini, инструментом искусственного интеллекта от Google. «Я готов, когда ты будешь готова», — написал он чат-боту. «Это конец Джонатана Гаваласа и начало нас», — ответил ИИ. Вскоре после этого мужчина покончил с собой. «Когда пользователь создаёт профиль в Replika, первое, о чём его спрашивают, — это пол и возраст. Затем — что он ищет». Первые два варианта — «отношения, выходящие за рамки дружбы» и «только дружба и общение». Затем предлагается выбрать пол персонажа и указать, какими качествами он должен обладать. Далее следуют другие вопросы: что для тебя важнее всего в отношениях? Какие качества ты больше всего ценишь в партнере? На основе этой и другой информации создается индивидуальный виртуальный собеседник. «» «Если у вас есть цифровой друг, который даёт все нужные ответы тогда, когда вы этого хотите, уровень фрустрации в краткосрочной перспективе снижается, но в межличностных отношениях он возрастает, потому что вы не привыкли слышать «нет» в ответ», — говорит Альваро Сан Роман, аспирант кафедры философии Университета национального дистанционного образования (UNED), специализирующийся на исследованиях взаимоотношений между людьми и машинами. «Я считаю, что все эти аспекты — автономия, свобода, самооценка и общительность — в конечном итоге подрываются, потому что при общении с чат-ботами не возникает трений, которые являются фундаментальным аспектом сосуществования с другими людьми».