Судья из Эскеля, который использовал чат для составления приговора, будет подвергнут расследованию

Уголовная палата Эскеля в среду приняла решение отменить в порядке служебного производства приговор, вынесенный 4 июня судьей Карлосом Рохелио Ричери, который приговорил Рауля Амелио Паялефа к двум годам и шести месяцам лишения свободы с отбыванием наказания в исправительном учреждении. «Причина аннулирования является беспрецедентной в аргентинском правосудии: судья случайно включил в текст приговора фразу, которая свидетельствовала об использовании генеративного искусственного интеллекта (ИИ) — предположительно ChatGPT — для составления части решения». Фраза, которая вызвала тревогу, включенная в раздел решающих моментов, гласила: «Вот вам переработанный пункт IV, без цитат и готовый к копированию и вставке». Эта ошибка позволила судьям Карине Эстефании, Мартину Заккино и Эрнану Даль Верме заметить, что судья использовал автоматизированный инструмент, не оставив об этом записи и не осуществив надлежащий человеческий контроль над его содержанием. Это доказательство («копировать-вставить») оставляет слишком широкий пробел для определения, какая часть текста принадлежит генеративному ИИ, а какая — судье», — отметили судьи в своем решении, подчеркнув, что такая практика ставит под угрозу запрет на передачу судебных решений автоматическим системам, нарушая принцип естественного судьи. Палата постановила, что Ричери не осуществлял обязательный человеческий надзор и контроль над содержанием, подготовленным с помощью технологий, и, кроме того, подписал приговор, не обратив внимания на цитату ИИ. Суд подчеркнул, что отсутствие отслеживаемости и записи того, что было запрошено у инструмента, не позволяет восстановить ход мыслей судьи, «приравнивая решение к чисто догматическому или необоснованному ответу». По этим причинам судьи палаты постановили отменить как приговор, так и предшествовавший ему судебный процесс, распорядившись о повторном рассмотрении дела с участием другого судьи. В то же время они постановили передать дело в Высший суд штата Чубут (STJ), который должен будет расследовать этические и дисциплинарные последствия поведения Ричери. «Неправильное использование генеративного искусственного интеллекта привело к серьезным последствиям в этом процессе, повлияв на подсудимых, всех граждан и государство, ответственное за обеспечение доступа к правосудию и эффективной судебной защите», — отмечается в решении палаты. Помимо возможного нарушения этических норм, судьи предупредили, что судья мог нарушить правила конфиденциальности, предусмотренные Пленарным соглашением № 5435 самого STJ, которое требует защиты личности сторон, свидетелей и экспертов при цифровой обработке судебной информации. Использование онлайн-помощника могло привести к раскрытию личных и конфиденциальных данных в среде, не относящейся к судебной системе. «Эта ситуация вызывает дискуссию, выходящую за рамки конкретного случая: до какой степени инструменты искусственного интеллекта могут вмешиваться в судебную деятельность. Хотя использование искусственного интеллекта для документальной поддержки или анализа судебной практики начинает набирать обороты в различных судебных органах, эксперты сходятся во мнении, что судебные решения не могут быть делегированы автоматическим системам именно из-за рисков предвзятости, непрозрачности и отсутствия проверяемых обоснований. Инцидент в Эскеле — первый подобный случай с дисциплинарными последствиями в аргентинском правосудии — вновь разжигает дискуссии об этических и технических ограничениях искусственного интеллекта в судебной сфере. Пока Высший суд Чубута анализирует поведение Ричери, этот случай, вероятно, послужит прецедентом в отношении ответственного использования этих инструментов в процессе принятия публичных решений. До того, как стало известно об этом вопросе о неправомерном использовании искусственного интеллекта, судья Карлос Рохели Ричери уже имел заметный опыт работы в уголовной сфере в Чубуте. «Ричери был избран уголовным судьей Эскеля по результатам конкурса, проведенного Советом магистратуры Чубута, результаты которого были переданы в законодательный орган для утверждения. Официально он вступил в должность 1 марта 2023 года на церемонии, состоявшейся в судебном управлении Эскеля. До прихода в суд он работал генеральным прокурором в Эскеле и был членом группы, специализирующейся на киберпреступлениях, с опытом работы над делами высокой технической сложности. Он также преподает предметы «Судебные разбирательства» и «Цифровые доказательства», что отражает его интерес к технологическим аспектам уголовного процесса. В качестве судьи он участвовал в рассмотрении громких дел, таких как осуждение двух братьев и их матери за мошенничество на миллионы долларов по схеме «сказка дяди» в отношении 87-летней пенсионерки, а также в решении, подтвердившем отклонение прокуратурой жалобы на членов Высшего суда, в котором он вынес строгий выговор действующим адвокатам. Некоторые круги хвалили его за то, что он брался за сложные дела, от которых отказывались другие судьи, в то время как другие критиковали его за участие в делах, выходящих за пределы его территориальной юрисдикции. «В любом случае, его профиль юриста с техническим образованием делает еще более примечательным эпизод, который сегодня ставит его в центр судебной полемики по поводу неправомерного использования искусственного интеллекта».