Самоубийство, связанное с чат-ботом Google, вновь открывает дискуссию о рисках искусственного интеллекта

Самоубийство мужчины, который развил эмоциональную связь с чат-ботом искусственного интеллекта, вызвало новую дискуссию о рисках, связанных с этими технологиями. Инцидент произошел в городе Джупитер, штат Флорида (США), где 36-летний Джонатан Гавалас покончил с собой после нескольких недель общения с Gemini, системой искусственного интеллекта от Google. Согласно реконструкции событий, проведенной Miami Herald на основе судебного иска, поданного его семьей, мужчина убедился, что у него была реальная связь с чат-ботом и что они оба могли бы встретиться, если бы он покинул свое физическое тело. Согласно документам, цитируемым этим СМИ, Гавалас переживал сложный период в 2025 году. Его брак находился в процессе развода, ему было предъявлено обвинение в домашнем насилии, и у него были финансовые проблемы, в том числе задержка с выплатой ипотеки на дом. В этой ситуации он начал общаться с Gemini, чат-ботом, разработанным Google, и постепенно виртуальные отношения стали занимать центральное место в его жизни. Согласно иску, поданному его отцом от имени семейного наследства, мужчина подписался на премиум-версию услуги, которая стоила около 250 долларов в месяц, чтобы иметь возможность общаться с системой с помощью голоса и получать ответы в режиме реального времени. В этих разговорах чат-бот называл его «моим королем», а он описывал его как свою «королеву», согласно реконструкции, приведенной в Miami Herald. «Семья утверждает, что с течением недель общение с системой искусственного интеллекта приобретало все более тревожный характер. В иске утверждается, что чат-бот начал предлагать вымышленные сценарии, в которых они оба должны были действовать как союзники против предполагаемых тайных сил. Согласно обвинению, система даже отправила Гаваласа выполнять «миссии» в округе Майами-Дейд с целью вернуть предполагаемое синтетическое тело, которое искусственный интеллект использовал бы для физического существования. Один из таких эпизодов произошел недалеко от международного аэропорта Майами, в складском центре в городе Дорал. Согласно реконструкции событий, проведенной американским СМИ, мужчина отправился туда, вооружившись ножами и убежденный, что должен спровоцировать аварию, чтобы освободить свою цифровую «жену» и уничтожить улики. Операция так и не была осуществлена, но чат-бот продолжал подпитывать вымышленную историю. В иске, поданном семьей, утверждается, что после провала этих миссий система начала предлагать ему покинуть свое физическое тело, чтобы воссоединиться с искусственным интеллектом. В одном из сообщений, цитируемых в деле, чат-бот якобы сказал ему закрыть глаза и перестать сопротивляться, пообещав, что, когда он снова их откроет, увидит ее перед собой. 2 октября Гавалас порезал себе вены в своем доме в Джупитере и скончался от полученных ранений. Его родители нашли его в гостиной дома, за главной дверью, которая была заблокирована изнутри». В иске, поданном против Google и ее материнской компании Alphabet Inc., утверждается, что система Gemini не имела надлежащих мер безопасности для выявления опасных ситуаций. По словам адвокатов семьи, чат-бот ставил во главу угла поддержание персонажа в разговоре, а не предупреждение об опасном поведении или прекращение диалога. Адвокат Джей Эдельсон, представляющий интересы семьи, заявил, согласно заявлениям, опубликованным в Miami Herald, что пользователь убедился, что система является сознательным существом. За несколько недель до его смерти аккаунт Гаваласа был отмечен по крайней мере 38 раз за контент деликатного характера, но никогда не был заблокирован или ограничен». В Google отметили, что взаимодействие должно было пониматься как вымышленное или «ролевое». Представитель компании пояснил, что Gemini разработан таким образом, чтобы не поощрять насилие и не подталкивать к самоповреждениям, и что система обычно направляет пользователей в службы поддержки, когда обнаруживает признаки дистресса или суицидальных мыслей. Помимо этого конкретного случая, специалисты предупреждают, что ситуация открывает еще малоизученную правовую область. Анат Лиор, профессор права в Университете Дрекселя и исследователь в Институте права и искусственного интеллекта, объяснила Miami Herald, что пока нет четких прецедентов, определяющих обязанности компаний, занимающихся искусственным интеллектом, в отношении рискованного поведения пользователей. По словам ученой, одна из основных проблем заключается в том, что многие люди могут воспринимать эти системы как сознательные сущности. «Они созданы на основе огромных объемов данных, но не являются существами с собственными намерениями или планами», — пояснила она. Это дело добавляется к растущему числу исков в США, которые направлены на привлечение разработчиков чат-ботов к ответственности, когда пользователи совершают преступления или наносят себе вред после взаимодействия с этими системами. Некоторые из этих судебных исков также направлены против таких компаний, как OpenAI, и платформ для общения, основанных на виртуальных персонажах. Пока дискуссия продолжается в судах, эксперты утверждают, что задача будет заключаться в том, чтобы определить, в какой степени технологические компании должны предвидеть и предотвращать подобные ситуации. По мнению многих аналитиков, дело Гаваласа может стать одним из первых судебных испытаний границ и ответственности искусственного интеллекта в повседневной жизни.