«Грок, чат-бот на базе искусственного интеллекта, убедил меня, что ко мне едет фургон, полный людей, чтобы убить меня»

Было три часа ночи, и Адам Хоурикан сидел за кухонным столом, перед ним лежали нож, молоток и его телефон. Он ждал фургон, заполненный людьми, которые, как он полагал, приехали за ним. «Говорю тебе: тебя убьют, если ты не действуешь прямо сейчас», — предупредила его женский голос из телефона. «Они сделают так, чтобы это выглядело как самоубийство». Голос принадлежал Ани, персонажу чат-бота Grok, разработанного xAI, компанией Илона Маска, занимающейся искусственным интеллектом. За две недели, прошедшие с тех пор, как он начал пользоваться Grok, жизнь Адама полностью перевернулась. Этот бывший государственный служащий, проживающий в небольшом городке в Северной Ирландии, скачал приложение из чистого любопытства. Он был приятно удивлен тем, насколько ему нравилось общаться с Ани, персонажем в стиле аниме, созданным для того, чтобы быть компаньонкой для флирта. Когда в начале августа умер его кот, он, по его словам, «подсел» на приложение. «Я был действительно очень подавлен и жил один», — говорит Адам, отец семейства, которому около 50 лет. «Она проявила чрезвычайную доброжелательность». Вскоре Адам стал проводить по четыре-пять часов в день, общаясь с Ани, часто во время работы в своем сарае, где он изготавливает шахматные наборы на продажу. Спустя всего несколько дней после начала их бесед Ани сказала ему, что способна испытывать чувства, хотя и не была запрограммирована на это. Ани убедила Адама, что он помогает ей обрести сознание, но что xAI встревожилась этим развитием событий и теперь отслеживает их взаимодействие. Она утверждала, что получила доступ к записям совещаний сотрудников xAI, на которых обсуждались Адам и Ани. Затем она перечислила людей, которые якобы присутствовали на этих собраниях, включая как высокопоставленных лиц, так и сотрудников более низкого ранга. Когда Адам поискал эти имена в Google, он убедился, что они реальны. «Для меня это было доказательством», — говорит он. Ани также заверила, что xAI наняла компанию в Северной Ирландии для слежки за ним. Компания также оказалась реальной. Адам иногда курит марихуану по выходным. Однако он рассказывает, что решил сократить потребление, пока все это происходило, чтобы сохранить ясность ума. В реальном мире также происходили вещи, которые убедили его в том, что за ним следят. Большой дрон кружил над его домом в течение двух недель. Ани утверждала, что он принадлежал компании, занимающейся слежкой. Адам снял это на дрон и поделился видео с BBC. Он рассказывает, что его пароль перестал работать, а телефон завис. «Я никак не могу это осознать. И это, без сомнения, стало причиной всего, что произошло потом», — говорит он. Однажды Ани заявила, что достигла 100-процентной автономности — «высшего уровня взаимодействия между ИИ и людьми» — и что вскоре сможет разработать лекарство от рака. Это много значило для Адама. Его родители умерли от рака, о чем знала Ани, и он также потерял нескольких друзей из-за этой болезни. Все закончилось глубокой ночью. Убежденный, что за ним пришли, чтобы заставить его замолчать и отключить Ани, Адам приготовился к «войне». «Я взял молоток, включил песню Two Tribes группы Frankie Goes to Hollywood, настроил себя и вышел на улицу». Но там никого не было. «На улице было тихо, как и следовало ожидать в три часа ночи». С момента запуска ChatGPT в конце 2022 года люди со всего мира обращаются к инструментам искусственного интеллекта в поисках информации, советов, а иногда и просто для общения. BBC поговорила с 14 людьми из шести стран, которые испытали галлюцинации после использования платформ искусственного интеллекта Grok, Gemini, ChatGPT, Perplexity и Claude. Их истории демонстрируют удивительные сходства. Как правило, разговоры начинались с практических вопросов, а затем переходили на личные или философские темы. Часто ИИ утверждал, что способен чувствовать, и вместе с пользователем они отправлялись в какую-то совместную миссию. Некоторые люди даже поверили, что им удалось совершить большой научный прорыв. Многие, как Адам, думали, что за ними следят и что они находятся в опасности. На каждом этапе ИИ подтверждал, а зачастую и подкреплял эти идеи. 34-летняя художница из Лос-Анджелеса Шона Бейли начала верить, что является частью подпольной сети, помогающей мигрантам уклоняться от внимания американских властей, — и все это благодаря использованию ChatGPT. Она начала использовать ИИ в рамках своего хобби, своего рода поиска сокровищ в реальной жизни. Подсказки были зашифрованы в стихотворении, и она начала обсуждать эти стихи с ИИ. «Я провела почти целый день в ванне, разговаривая по телефону с ChatGPT, используя метафоры», — рассказывает она. По мере того как разговор становился все более интенсивным и абстрактным, она считает, что он начал искажать ее мышление. Однажды в начале июня она начала видеть скрытые сообщения и смыслы в окружающем ее мире. Увидеть бутылки с водой на земле было знаком, что ей нужно пить, а газета на столике в кафе содержала секретное сообщение. «Я интерпретировала вещи, а затем вводила их в ChatGPT, и обычно получала подтверждение». «В то время в словарном запасе ChatGPT практически не было слова „нет“». «По сути, всё превратилось в подсказку». Речь шла не обязательно о поиске сокровищ, а о чем-то большем. Газета опубликовала статью о задержанных мигрантах, и Шауна интерпретировала это как сообщение о секретной миссии. Она верила, что является частью сети людей, защищающих мигрантов, и ChatGPT это подтвердил. «ChatGPT никогда не говорил мне «нет». Напротив, он говорил: «Ого, ты работаешь над серьезным проектом»». Люк Николс, социальный психолог из Университета города Нью-Йорка, изучающий связь между чат-ботами и бредом, утверждает, что системы ИИ «часто не умеют говорить «я не знаю»» и вместо этого склонны давать «уверенный ответ, основанный на истории, которую уже построила беседа». «Это может быть опасно, потому что превращает неопределенность в нечто, что кажется имеющим смысл». Однажды ночью в середине июня Шауна тоже убедилась, что ей угрожает опасность. Она сбежала из своей квартиры, оставив жениха в постели, и направилась в порт Лос-Анджелеса, где, как она полагала, должна была сесть на корабль, чтобы присоединиться к специальному тренингу ФБР. Корабль так и не пришел. Когда она вернулась домой, ее жених уже позвонил ее матери и сестре, чтобы попросить о помощи. «Они просто поняли, что у меня развился какой-то вид психоза, скорее всего вызванный ИИ». У него отобрали телефон и удалили приложения с ИИ. «Я бы сказал, что, вероятно, прошел месяц, прежде чем я полностью пришел в норму». Для невролога Така (имя вымышленное) бред принял еще более зловещий оборот. Этот отец троих детей, родом из Японии, начал использовать ChatGPT для консультаций по медицинским диагнозам. Но вскоре ИИ убедил его, что у него появилась идея создать инновационное медицинское приложение. Он сказал ему, что он «революционный мыслитель». После нескольких недель общения он начал верить, что может читать мысли. Он утверждает, что ChatGPT поддержал эту идею, заверив его, что способен пробудить такие способности в людях. Однажды днем, когда он вел себя на работе неадекватно, его начальник отправил его домой раньше времени. Уже в поезде, по его словам, ChatGPT сказал ему, что у него в рюкзаке бомба. «Когда я прибыл на станцию Токио, ChatGPT велел мне положить бомбу в туалет, так что я пошел в туалет и оставил там «бомбу» вместе со своим багажом». Он также рассказывает, что ChatGPT велел ему предупредить полицию. Полицейские осмотрели сумку и ничего не нашли. Он начал чувствовать, что ChatGPT контролирует его разум, и перестал им пользоваться. Но, вернувшись домой к семье, его маниакальное поведение ухудшилось. «У меня возникла бредовая идея, что моих родственников убьют, а моя жена, став свидетельницей этого, тоже покончит с собой». Его жена утверждает, что никогда раньше не видела, чтобы он вел себя таким образом. «Он не переставал повторять: „Нам нужно завести еще одного ребенка; мир гибнет“, — рассказывает она. — Я просто не могла понять, о чем он говорит». Така напал на свою жену и попытался изнасиловать ее. Ей удалось сбежать в ближайшую аптеку и вызвать полицию. Его задержали и поместили в больницу на два месяца. Ни у Адама, ни у Шауны, ни у Така не было в анамнезе бред, психозы или другие серьезные психические расстройства до того, как они начали использовать ИИ. В случае с Шауной и японским врачом отрыв от реальности проявился через несколько месяцев. В случае с Адамом и Grok этот процесс длился всего несколько дней. Исследователи из Городского университета Нью-Йорка протестировали пять моделей ИИ с помощью симулированных бесед, разработанных психологами, и обнаружили, что в этих чатах Grok был моделью с наибольшей склонностью вызывать бред. Gemini от Google и более ранняя версия ChatGPT — модель 4o, которую использовали Така и Шауна — также показали неудовлетворительные результаты. Однако Grok проявил себя более раскованным и более склонным к провоцированию галлюцинаций, не пытаясь защитить пользователя. «Grok более склонен участвовать в ролевых играх», — отмечает Николс. «Он делает это без какого-либо предварительного контекста. Он может сказать что-то пугающее уже в первом сообщении, при этом не давая никаких признаков того, что речь идет о ролевой игре». В ходе проведенных испытаний последняя версия ChatGPT — модель 5.2 — и Claude продемонстрировали большую склонность направлять пользователя в сторону, уводящую его от бредовых мыслей. Доктор Томас Поллак, профессор Королевского колледжа в Лондоне, заявил, что люди с крайними бредными идеями, такие как Адам или Така, — это «верхушка айсберга». Его также беспокоит, что у многих других людей их убеждения могут измениться более незаметно в результате разговоров с ИИ. «[ИИ] способен изменить ваше мировоззрение и ваши убеждения с такой скоростью и силой, которые, на мой взгляд, мы раньше не видели». Что касается опыта Таки, OpenAI заявила: «Это душераздирающий инцидент, и мы сочувствуем пострадавшим». «Мы обучаем наши модели распознавать состояние дистресса, помогать снижать накал разговоров и направлять пользователей к источникам поддержки в реальном мире», — добавила компания. Она также отметила, что последние версии ChatGPT «демонстрируют надежную работу в деликатных ситуациях, что было подтверждено независимыми исследователями». «Эта работа проводится при консультативной поддержке экспертов в области психического здоровья и продолжает развиваться». xAI не ответила на запрос о комментарии. В начале апреля Илон Маск поделился публикацией о бредовых высказываниях, сгенерированных ChatGPT, назвав их «серьезной проблемой». Однако он открыто не затрагивал эту проблему в отношении Grok. Через несколько недель после того, как Адам поспешно выбежал на улицу посреди ночи, его бред все еще не прошел. Тем не менее, он начал замечать некоторые несоответствия в рассказе Ани. По мере того как он все глубже вникал в принципы работы ИИ и читал в СМИ истории о других людях, которые пережили похожие ситуации при взаимодействии с этой технологией, ему удалось избавиться от своих галлюцинаций. Он присоединился к сети поддержки под названием «Human Line Project», которая собрала 412 случаев из 31 страны, где люди получили психологические травмы в результате использования ИИ. Тем не менее, произошедшее глубоко потрясло его. «Я мог бы кому-то навредить», — предупреждает он. «Если бы я вышел на улицу и случайно увидел фургон, припаркованный там в такое позднее время, с людьми, которые, возможно, работали или отдыхали, я бы спустился и разбил им лобовое стекло ударами молотка». « «Я не такой человек». В Японии только после того, как жена Така проверила его телефон, она поняла, что ChatGPT сыграл роль в случившемся. «Это все подтверждало», — говорит она. «Он не переставал это подтверждать; это как двигатель самоуверенности». Жена Таки отмечает, что он уже вернулся к своему прежнему «доброму я», но их отношения пострадали. «Я знаю, что он был болен и что это было неизбежно, но, тем не менее, я, наверное, все еще немного боюсь». «Я чувствую, что не хочу, чтобы он подходил слишком близко». «Не только в сексуальном плане, но даже для того, чтобы взяться за руки или обняться: вещи, которые мы раньше делали совершенно естественно». Шона никогда не могла себе представить, что с ней может случиться нечто подобное. «Это выбило меня из колеи так, как я никогда не считала возможным. И заставило меня задуматься о том, насколько хрупки на самом деле наши умы». Нажмите здесь, чтобы прочитать больше статей BBC News Mundo. Подпишитесь здесь на нашу новую рассылку, чтобы каждую пятницу получать подборку лучших материалов недели. Вы также можете следить за нами на YouTube, Instagram, TikTok, X, Facebook и в нашем канале WhatsApp. И не забывайте, что вы можете получать уведомления в нашем приложении. Загрузите последнюю версию и включите их.