По данным властей, она спросила у ChatGPT о сочетании алкоголя и лекарств. После этого были обнаружены тела двух мужчин.

СЕУЛ, Южная Корея — «Что произойдет, если принять снотворное и алкоголь одновременно?» «Какая доза считается опасной при их совместном употреблении?» «Можно ли умереть?» По словам южнокорейской полиции, именно эти вопросы Ким Со-ён задавала ChatGPT незадолго до того, как дала двум мужчинам смесь алкоголя и бензодиазепина, что привело к их смерти. Прокуроры утверждают, что Ким дала наркотики трем мужчинам, двое из которых умерли, а третий получил травмы. Следователи представили в суде переписку с ChatGPT, извлеченную с телефона Ким с помощью криминалистических методов, в попытке доказать умысел. «Это важно не только как доказательство само по себе, но и потому, что сам факт признания переписки с ChatGPT в качестве прямого доказательства в деле об убийстве заслуживает особого внимания», — сказал в телефонном интервью Нам Ёнхо, старший адвокат юридической фирмы Vincent и представитель семьи одной из жертв. «Если бы такие доказательства не были приняты, было бы трудно доказать умысел подсудимой на убийство, что является ключевым элементом преступления», — сказал Нам. NBC News обратилась за комментариями в Верховную прокуратуру Южной Кореи, которая курирует работу Центральной окружной прокуратуры Сеула, ведущей это дело. Прокуратура не ответила сразу. Ким отрицает умысел на убийство, заявив в суде, что смерти были случайными. Нам сказал, что доказательства в виде журнала чата противоречат этому. Это дело, возможно, является первым в своем роде в Южной Корее. Тем не менее, это лишь один из растущего числа громких уголовных дел, в которых людей обвиняют в использовании программ искусственного интеллекта для содействия совершению насильственных преступлений. В большинстве случаев, о которых стало известно общественности, фигурировал ChatGPT, однако недавно в гражданском иске фигурировал и Gemini от Google: в нем утверждалось, что этот чат-бот помог мужчине, планировавшему устроить теракт с многочисленными жертвами недалеко от аэропорта Майами. Эксперты говорят, что использование таких инструментов в злонамеренных целях, вероятно, ускорится по мере того, как чат-боты станут более распространенными, как это произошло с онлайн-поиском, когда он только появился. Пока OpenAI сталкивается с несколькими судебными исками, связанными с обвинениями в том, что его инструмент использовался для совершения преступлений, индустрия ИИ только начинает решать вопросы своей роли в смягчении физического вреда и взаимодействия с правоохранительными органами. У вас есть история об ИИ и преступности, которой вы хотели бы поделиться? Напишите репортеру Джейн Литвиненко. OpenAI не ответила на вопросы о деле или о том, как часто она передает дела правоохранительным органам, включая вопросы о том, с какими правоохранительными органами она может сотрудничать. Компания сослалась на письмо, написанное в ответ на стрельбу в Канаде, и на пост в блоге о безопасности сообщества. Пока неизвестно, примет ли судья, ведущий дело Кима в Южной Корее, журналы ChatGPT в качестве доказательств. Судебный процесс продолжается. Дело привлекло значительное внимание в стране. Местные СМИ сообщили, что на последнем слушании 7 мая зал суда был переполнен журналистами и наблюдателями. В феврале полиция арестовала Ким по обвинению в убийстве и нарушении Закона Южной Кореи о контроле над наркотическими средствами, утверждая, что она давала мужчинам ядовитые напитки, содержащие бензодиазепины и другие наркотики, под видом средства от похмелья. По версии следствия, начиная с середины декабря Ким знакомилась с мужчинами, приглашала их в мотель, а затем давала им это вещество, опасаясь нежелательного физического контакта. Первая жертва выжила после двухдневной комы. Власти заявили, что затем Ким проконсультировалась с ChatGPT по поводу дозировок и скорректировала их, прежде чем дать их второй и третьей жертвам. Полные записи чата не были обнародованы, а лишь процитированы и упомянуты полицией. Полиция установила, что третья жертва, чьи интересы представляет Нам, встретилась с Ким 9 февраля в мотеле в Сеуле. Она подала ему напиток, в который были добавлены лекарства, сказал Нам. Нам рассказал, что после того, как мужчина потерял сознание, она воспользовалась его телефоном, чтобы заказать доставку еды, и ушла с ним. Полиция прибыла на следующий день, когда мужчина уже скончался. Нам сообщил, что, согласно отчету о вскрытии, с которым он ознакомился, смерть наступила в результате отравления наркотиками. «В некотором смысле подозреваемая получила инструкции от ChatGPT, а затем использовала эту информацию для совершения преступления», — сказал Нам. «Это делает данное дело особенным, поскольку поисковые запросы в ChatGPT были непосредственно использованы в качестве инструмента при совершении преступления». Хотя полиция, помимо доказательств в виде логов чата, использует также публикации в социальных сетях и записи с камер видеонаблюдения, именно переписка с ChatGPT может оказаться решающей при установлении того, намеревался ли Ким убить жертв. Следующее судебное заседание назначено на июнь. Дело Кима напоминает растущее число подобных инцидентов в Северной Америке, где предполагаемые преступники использовали ChatGPT для получения инструкций, имеющих решающее значение для совершения преступления. Разработчики системы дистанцировались от незаконных действий и находящихся на рассмотрении судебных дел в США и Канаде. Эти дела оказали давление на OpenAI. Чтобы узнать больше об этой истории, смотрите программу «Hallie Jackson NOW» сегодня вечером в 17:00 по восточному времени на NBC News NOW. После того как в феврале 18-летний стрелок убил восемь человек в Тумблер-Ридж, Британская Колумбия, генеральный директор OpenAI Сэм Альтман написал письмо с извинениями перед общественностью за то, что не сообщил правоохранительным органам об аккаунте стрелка. Преступник описывал сценарии с применением огнестрельного оружия в ChatGPT в течение нескольких дней, прежде чем аккаунт был заблокирован в июне, за восемь месяцев до стрельбы. Компания не уведомила правоохранительные органы. В апреле семьи погибших и пострадавших подали семь федеральных исков против OpenAI, утверждая, что компания не приняла мер, которые могли бы предотвратить стрельбу. «Хотя слов никогда не бывает достаточно, я считаю, что извинения необходимы, чтобы признать вред и необратимую утрату, которые понесло ваше сообщество», — написал Альтман, пообещав сотрудничать с властями в целях предотвращения преступлений в будущем. Подозреваемый в стрельбе в Университете штата Флорида в апреле 2025 года находился в «постоянной связи с ChatGPT», заявил на пресс-конференции генеральный прокурор штата Джеймс Утмайер. В результате нападения погибли два человека. Утмайер инициировал уголовное расследование, чтобы определить, какую роль в нападении сыграл продукт OpenAI. Он заявил, что ChatGPT «советовал стрелку, какой тип оружия использовать, какие патроны подходят к какому оружию, а также будет ли оружие полезно на ближней дистанции». Представитель OpenAI заявил тогда, что «ChatGPT не несет ответственности за это ужасное преступление», добавив, что ответы, которые давал чат-бот, «можно было найти в открытых источниках в интернете, и он не поощрял и не пропагандировал незаконную или вредную деятельность». Семья одной из жертв стрельбы в ФГУ подала иск против OpenAI в воскресенье. По данным полиции Лас-Вегаса, ChatGPT и генеративный ИИ также использовались «для исследования взрывчатых веществ и механизмов воспламенения» при взрыве Tesla в январе 2025 года возле отеля Trump International Hotel Las Vegas. Школьный психотерапевт из Северной Каролины, как утверждается, использовала ChatGPT для исследования «смертельных и вызывающих потерю дееспособности комбинаций лекарств, которые можно принимать внутрь и вводить инъекционно», чтобы отравить своего мужа в прошлом году. В октябре 17-летний подросток из Флориды, как утверждается, использовал этот инструмент, пытаясь инсценировать собственное похищение. Эксперты отмечают, что применение ChatGPT и подобных инструментов в уголовных делах находится на начальной стадии. Тем не менее, практически нет ни одного судебного процесса, который бы не затронул эта технология. Адвокаты и потерпевшие используют чат-ботов для подготовки дел, причем иногда допускают столько ошибок, что судьи запрещают их использование в своих залах судебных заседаний. Некоторые подсудимые используют их для фальсификации доказательств или для того, чтобы поставить под сомнение подлинные доказательства. В настоящее время появляется все больше дел, указывающих на использование генеративного ИИ в преступлениях. Для многих специалистов в этой области дела, которые находятся в поле зрения общественности, являются лишь верхушкой айсберга. «Неудивительно, что преступники используют чат-ботов, готовых помочь в планировании преступлений», — сказал Макс Тегмарк, физик и исследователь в области машинного обучения в Массачусетском технологическом институте и председатель Future of Life Institute, некоммерческой организации, стремящейся снизить риски, связанные с трансформационными технологиями. «Стандартов безопасности для ИИ меньше, чем для бутербродов», — сказал Тегмарк. «Очевидное решение — ввести обязательные стандарты безопасности, чтобы компании не могли выпускать системы ИИ, пока те не откажутся от преступной деятельности». Некоторые утверждают, что использование чат-бота не так уж отличается от простого поиска в Google: и то, и другое оставляет цифровые следы, показывающие, как преступники планировали свои действия. Но Нам, адвокат по делу в Южной Корее, сказал, что чат-боты создают новый тип сценария. «Настоящая проблема заключается в том, что этот диалоговый формат может позволить потенциальным преступникам вести „диалог“ с ChatGPT, не испытывая при этом чувства вины», — сказал он. «Если бы подозреваемый спросил человека о дозировке или способе применения токсичного вещества, тот, естественно, задался бы вопросом о его намерениях — зачем кому-то нужна такая конкретная информация о применении яда», — пояснил он. «Однако ChatGPT не фильтрует такие вопросы через призму этических соображений». По мере того как отрасль начинает бороться с неправомерным использованием своих технологий, она сталкивается с вопросами безопасности, аналогичными тем, которые возникали при появлении прошлых прорывов, таких как ремни безопасности в автомобилях, модерация в социальных сетях или предупредительные надписи на потенциально токсичных продуктах. «Мы достигнем равновесия, с которым все будут чувствовать себя комфортно», — сказала Анато Лиор, доцент кафедры права Университета Дрекселя, которая изучала вопросы управления искусственным интеллектом и ответственности за его использование. «Мы просто пока не уверены, как будет выглядеть этот баланс».