«Копировать и вставить»: фраза, которая выдала судью, использовавшего ChatGPT, и теперь он находится под следствием после отмены его решения

Странная фраза, не соответствующая техническому тону любого судебного решения, вызвала тревогу: «Вот вам переработанный пункт IV, без цитат и готовый к копированию и вставке». Эта строка, вставленная в текст решения, показала, что в его составлении участвовал помощник с искусственным интеллектом. Эта оплошность была достаточной, чтобы Уголовная палата Эскеля отменила все решение и распорядилась начать все сначала: приговор был аннулирован, и будет проведен новый суд с другим судьей. Дело разразилось в среду, когда Палата решила отменить по собственной инициативе (без запроса какой-либо из сторон) приговор, вынесенный 4 июня уголовным судьей Карлосом Рохелио Ричери, который приговорил Рауля Амелио Паялефа к двум годам и шести месяцам лишения свободы с отбыванием наказания. Это решение означает, что процесс должен быть повторен с момента обсуждения, на этот раз перед другим судьей. «Решающим доказательством использования генеративной ИИ было случайное включение этой фразы, которая соответствует обмену с искусственным помощником. Для членов палаты это «доказательство копирования и вставки» открывает слишком широкую лазейку: теперь невозможно точно определить, какая часть текста решения принадлежит системе, а какая — судье. И эта неопределенность сталкивается с базовым ограничением: запретом на передачу судебных решений автоматическим системам, что является ядром принципа естественного судьи (гарантия того, что решение исходит от компетентного, независимого и ответственного человеческого органа). «Палата, в состав которой входят Карина Эстефания, Мартин Заккино и Эрнан Даль Верме, пошла дальше чисто формального подхода. Она указала, что эта ошибка показала, что судья не выполнил должным образом надзор и контроль, требуемые при использовании инструментов ИИ. Приговор был подписан с цитатой помощника, кроме того, не было зафиксировано использование ИИ и запрос к программе. Отсутствие записи не позволяет проверить отслеживаемость рассуждений: не зная, что было запрошено, что было получено и как это было включено в анализ, решение приближается к догматическому или необоснованному ответу (то есть без контролируемых оснований). На институциональном уровне судьи распорядились передать материалы дела в Высший суд Чубута (орган, осуществляющий надзор за судебной деятельностью, то есть имеющий полномочия руководить и контролировать организацию работы судебной системы) для расследования масштабов «серьезных последствий», которые имело в данном процессе неправомерное использование ИИ. В своем обращении просят высший суд провинции определить ответственность и меры в связи с произошедшим, чтобы обеспечить доступ к правосудию и эффективную судебную защиту. Это заявление также вызвало озабоченность по поводу конфиденциальности. Судьи предупредили, что судья мог нарушить меры предосторожности, установленные Пленарным соглашением № 5435 Высшего суда, включив в текст, обработанный помощником, имена сторон, свидетелей и экспертов. Другими словами: загрузив конфиденциальную информацию в инструмент ИИ, он подверг риску защищенные материалы, что противоречит обязательствам по сохранению конфиденциальности, действующим в уголовном процессе. Ключевым моментом для судей была линия ответственности: даже если инструмент ИИ может помогать в механических или вспомогательных задачах, обсуждение, аргументация и принятие решения должны быть однозначно человеческими и поддающимися проверке. Поэтому, как они подчеркнули, при использовании технологии в деле необходимо сообщать о ее использовании, сохранять входные данные (что было запрошено у помощника и что он вернул) и четко указывать, как этот материал был интегрирован — или не был интегрирован — в рассуждения. Ничего из этого не произошло в рассмотренном деле. Процессуальные последствия были самыми суровыми: аннулирование приговора и, как следствие, предшествовавшего ему судебного разбирательства. Палата подчеркнула, что повторное рассмотрение дела влечет за собой конкретные издержки для вовлеченных в него лиц, граждан и государства, которое должно гарантировать правосудие с мотивированными, понятными и законными решениями. «С практической точки зрения, в решении не выносится заключение о виновности или невиновности Паялефа: в нем рассматривается не суть дела, а обоснованность процедуры и приговора».