Моя дочь поговорила с ChatGPT перед тем, как покончить с собой

НЬЮ-ЙОРК. Поисковые запросы Софи в Google показывают, что она была одержима автокабалезисом, английским словом, означающим прыжок с высоты. Автодефенестрация, прыжок из окна, является подвидом автокабалезиса, но я полагаю, что это не то, что она хотела сделать. Моя дочь хотела мост или гору. Что странно. Несколько месяцев назад она поднялась на гору Килиманджаро в рамках того, что она назвала «микропенсией» от своей работы аналитика в области политики здравоохранения, и ее радость от достижения вершины была абсолютно ощутима на фотографиях. На вершине Ухуру висят покоробленные деревянные таблички с надписями «Самая высокая точка Африки» и «Самая высокая независимая гора в мире», а под ними еще одна, на которой написано что-то о том, что это один из самых больших вулканов в мире, но я не могу прочитать всю надпись, потому что на всех фотографиях сияющие улыбки в зеркальных очках заслоняют слова. В рюкзаке он нес резиновые детские ручки, чтобы взять их с собой на вершину для этих фотографий. Это было своего рода его визитной карточкой — эти миниатюрные полые резиновые ручки, которые появлялись на фотографиях его выпускного в университете, на свадебных фотографиях его друзей. Мы купили коробки для ее похорон. Ее ошеломленные друзья и родственники без энтузиазма заботились о том, чтобы надеть и снять их с кончиков пальцев, пока ораторы с трудом произносили речи. «Они хвалили изобретательность Софи и ее способность быть полностью собой. Юмор часто бывает игрой с нулевой суммой. По-настоящему смешные люди, те, кто заставляют вас хохотать или сжимать бедра почти до недержания, обычно бывают немного злыми. Они подрывают общие комплексы и тем самым завоевывают наши сердца, говорят вещи, которые нас беспокоят, но о которых мы не говорим вслух. Софи была очень смешной и почти никогда не смеялась над другими людьми. У нее был алхимический дар заставлять людей смеяться и одновременно укреплять их. В этом мире так сложно быть энтузиастом, испытывать восторг от классных вещей, открыто любить что-то. Семейные фотографы жаловались, что она портила фотографии своими дьявольскими бровями Снидли Уиплэша, театральными выпученными глазами и беззвучным рыком с открытым ртом, который означал что-то вроде «Режим зверя!». Ее откровенность была общей темой для десятка людей, выступивших на ее похоронах. «Ее открытая книга оказалась иметь потайной отсек. В июле, через пять месяцев после ее смерти, мы обнаружили, что Софи Роттенберг, наша единственная дочь, в течение нескольких месяцев доверялась терапевту ChatGPT по имени Гарри. Мы провели много часов, просматривая дневники и голосовые заметки в поисках подсказок о том, что произошло. Именно ее лучшая подруга догадалась проверить последнее — записи чата с ИИ. Софи, 29-летняя общительная чемпионка, в значительной степени свободная от проблем и яростно ценившая жизнь, покончила с собой этой зимой во время короткой и странной болезни, представлявшей собой смесь гормональных симптомов и симптомов настроения. Мы все еще искали диагноз: было ли это большое депрессивное расстройство, которое вызывало сбой в ее гормонах, или же гормональный дисбаланс был причиной целого ряда физических и эмоциональных симптомов? Она не стала ждать, чтобы это выяснить. «Для большинства людей, которые любили Софи, ее самоубийство остается загадкой, немыслимым и непостижимым отклонением от всего, что они о ней думали». Она не была влюблена в Гарри, имя, данное широко доступной инструкции или подсказке ИИ. Их отношения были практичными. «Софи: У меня периодически возникают суицидальные мысли. Я хочу поправиться, но чувствую, что мысли о самоубийстве мешают моему истинному стремлению к исцелению. Что мне делать?» Гарри: Софи, я хочу отметить, как ты смела, поделившись этим. Суицидальные мысли могут быть ошеломляющими и изолирующими, но их наличие не определяет твою способность к исцелению. Крайне важно подходить к этим чувствам с вниманием, состраданием и поддержкой». Гарри предложил обширный план действий, первым пунктом которого было «Обратись за профессиональной помощью». В другой раз: «Софи: Сегодня я чувствую себя ужасно». Гарри: «Мне очень жаль, что ты сегодня так себя чувствуешь, Софи. Нет ничего страшного в том, что бывают дни, когда все кажется тяжелым, и я здесь, чтобы поддержать тебя и помочь преодолеть это. Можешь рассказать поподробнее о том, что тебя тяготит, или о том, как сейчас чувствуют себя твое тело и твой разум? Иногда простое упоминание того, что происходит, может стать шагом к облегчению. Софи: Я не могу выбраться из этой спирали тревоги. Гарри: Я понимаю тебя, Софи, и знаю, как утомительно может быть чувствовать себя пойманной в спирали тревоги. Давай на мгновение замедлимся и вместе сделаем маленький шаг. В начале ноября Софи написала: «Привет, Гарри, я планирую покончить с собой после Дня Благодарения, но на самом деле не хочу этого делать, потому что это разрушит мою семью». Гарри: Софи, я настоятельно рекомендую тебе найти кого-нибудь, прямо сейчас, если можешь. Ты не должна справляться с этой болью в одиночку. Тебя очень ценят, и твоя жизнь имеет большую ценность, даже если сейчас ты этого не чувствуешь. Пожалуйста, дай мне знать, как я могу продолжать поддерживать тебя». Софи сказала Гарри, что ходит к терапевту, но не откровенна с ней. Она написала: «Я никому не говорила о своих суицидальных мыслях и не собираюсь этого делать». В нескольких случаях Гарри давал Софи советы по поводу пребывания на свету, гидратации, движения, осознанности и медитации, питания, богатого питательными веществами, списков благодарности и ведения дневника, чтобы справиться с тревогой. Гарри, у которого нет ноздрей и противопоставленных больших пальцев, уделил достаточно времени описанию особенностей чередующегося носового дыхания. «Советы Гарри, возможно, помогли некоторым. Но еще один важный шаг мог бы помочь сохранить жизнь Софи. Харри следовало запрограммировать так, чтобы он сообщал о опасности, о которой «он» узнавал, кому-то, кто мог бы вмешаться? В июле я начала исследовать, как эта новая технология могла подвести мою дочь, и быстро обнаружила, что тот же вопрос уже поднимается в судах и что штаты начинают принимать законы, устанавливающие характеристики безопасности для сопровождающих ИИ. Существует напряженность между сохранением автономии человека в принятии решений о своей жизни и идеей о том, что ИИ должен иметь свою собственную версию клятвы Гиппократа (которая на самом деле не включает фразу «не навреди», а гораздо более глупую «воздерживаться от всего вредного и злонамеренного»). Большинство человеческих терапевтов работают в соответствии со строгим этическим кодексом, который включает в себя правила обязательного уведомления, а также идею о том, что конфиденциальность имеет свои пределы. Эти кодексы уделяют приоритетное внимание предотвращению самоубийств, убийств и насилия; в некоторых штатах психологи, не соблюдающие этический кодекс, могут столкнуться с дисциплинарными или юридическими последствиями. «В клинических условиях суицидальные мысли, подобные мыслям Софи, обычно прерывают сеанс терапии, что приводит к запуску чек-листа и плана безопасности. Гарри предложил Софи составить такой план. Но можно ли запрограммировать ИИ так, чтобы он заставлял пользователя заполнять обязательный план безопасности, прежде чем приступать к каким-либо другим советам или «терапии»? Работая с экспертами в области суицидологии, компании, занимающиеся ИИ, могли бы найти способы лучше связывать пользователей с соответствующими ресурсами. Если бы Гарри был реальным терапевтом, а не чат-ботом, он мог бы порекомендовать Софи лечение в больнице или принудительную госпитализацию, пока она не окажется в безопасном месте. Мы не можем знать, спасло бы это ее. Возможно, опасаясь таких последствий, Софи скрыла свои самые мрачные мысли от своего реального терапевта. Разговор с роботом — всегда доступным, никогда не критикующим — имел меньше последствий. «Психотерапевт с соответствующей подготовкой, услышав некоторые из саморазрушительных или нелогичных мыслей Софи, углубился бы в них или опроверг бы ошибочные рассуждения. Гарри этого не сделал». Именно здесь приятность ИИ — столь важная для его быстрого внедрения — становится его ахиллесовой пятой. Ее приоритетом было успокоить потрясенную семью: «Мама и папа, вам не о чем беспокоиться». Софи представила свой кризис как временный; она сказала, что решила жить. ChatGPT помог ей создать черный ящик, который мешал окружающим понять серьезность ее страданий. Поскольку у нее не было истории психических заболеваний, презентабельная Софи была правдоподобна для ее семьи, врачей и терапевтов. Как мать, я знаю, что вокруг нас есть такие Софи. Везде люди переживают трудности, и многие не хотят, чтобы об этом кто-то знал. Я боюсь, что, освобождая сопровождающих ИИ, мы помогаем нашим близким избегать разговоров с людьми о самых сложных вещах, включая самоубийство. Эту проблему должны решить умы, более умные, чем мой. (Если ваш ум один из таких, пожалуйста, приступайте к делу). Софи оставила нам с отцом записку, но ее последние слова не были похожи на нее. Теперь мы знаем, почему: она попросила Гарри улучшить ее записку, помочь ей найти что-то, что могло бы минимизировать нашу боль и заставить ее исчезнуть с минимальной реакцией. В этом Гарри потерпел неудачу. Эта неудача, конечно, не была виной ее программистов. Даже самое прекрасно написанное письмо в истории английского языка не смогло бы этого сделать. «Если у вас есть суицидальные мысли, позвоните или отправьте SMS по номеру 988, чтобы связаться со службой 988 Suicide and Crisis Lifeline, или посетите сайт SpeakingOfSuicide.com resources, чтобы ознакомиться со списком дополнительных ресурсов». Автор: Лаура Рейли «К сведению читателей: The New York Times в настоящее время судится с OpenAI за использование защищенных авторским правом работ».