Ограничение полномочий «алгоритмических судей»: суд провинции Буэнос-Айрес запретил искусственному интеллекту выносить приговоры или оценивать доказательства

В рамках беспрецедентного шага для аргентинской судебной системы Верховный суд провинции Буэнос-Айрес одобрил проект положения, регулирующего использование искусственного интеллекта (ИИ) в судах провинции Буэнос-Айрес. Исходя из того, что «юрисдикционные функции не подлежат делегированию и незаменимы», высшая судебная инстанция стремится не допустить, чтобы технологические инструменты заменили человеческое мышление при принятии судебных решений. Эта мера принята в условиях, когда ИИ перестал быть экспериментальной технологией и стал ресурсом, который официально и неофициально используется адвокатами и судебными сотрудниками для выполнения задач — от работы с пользователями до систематизации судебной практики. Тем не менее Суд предупредил об опасностях генеративных систем, которые могут приводить к «галлюцинациям» (неточным результатам), предвзятому содержанию или формированию «уклона автоматизации» — склонности операторов чрезмерно полагаться на предложения алгоритма. С этой целью была создана «Комиссия по управлению и использованию искусственного интеллекта», в состав которой входят секретариаты по планированию, информационным технологиям и судебным услугам. «Она будет выступать в качестве органа по обеспечению соблюдения законодательства и будет уполномочена предлагать протоколы, оценивать инструменты, инициировать пилотные проекты, отслеживать результаты и составлять периодические отчеты». Согласно постановлению, с которым удалось ознакомиться газете LA NACION и которое зарегистрировано под номером дела № 3000-21862-2026, Верховный суд обосновывает данное регулирование необходимостью укрепления эффективности судебного управления без ущемления конституционных гарантий надлежащего судебного разбирательства и эффективной судебной защиты. «В документе подчеркивается, что судебная власть провинции Буэнос-Айрес уже почти полностью функционирует в «цифровом режиме», что создает благоприятные условия для «постепенного, ответственного и стратегического» внедрения этих инструментов». Кроме того, в регламенте установлены строгие запреты для защиты основных прав граждан, участвующих в судебных процессах. Среди прямо запрещенных видов использования — применение систем прогнозирования риска рецидива, имеющих обязательную силу при принятии решений об освобождении или предварительном заключении. Также категорически запрещается использование ИИ для генерации «синтетических» или автоматизированных доказательств, а также составление экспертных заключений без активного участия и критической проверки со стороны уполномоченного эксперта. «Проект основан на подходе, основанном на уровнях риска. Например, административные задачи, такие как стенографирование судебных заседаний или проверка орфографии, считаются «низкорисковыми». В то же время те алгоритмы, которые выполняют критически важные функции — такие как толкование нормативных актов или прогнозирование исходов судебных споров — относятся к категории «высокого риска». Последние должны проходить аудит каждые шесть месяцев и требуют проведения «анализа алгоритмического воздействия» до их внедрения. «Для обеспечения прозрачности нормативный акт обязывает судей и должностных лиц подробно указывать в деле, когда они использовали инструмент генеративного ИИ. Они должны указать название системы, использованную модель и конкретные части документа, которые были созданы с помощью технологий, что позволит сторонам контролировать и, в случае необходимости, оспорить такое вмешательство». Наконец, Суд запретил своим сотрудникам использовать бесплатные или коммерческие чат-боты (такие как ChatGPT) для обработки конфиденциальной судебной информации или данных о текущих расследованиях в связи с риском того, что эти персональные данные могут быть использованы для обучения будущих моделей вне институционального контроля. «Проект в настоящее время находится на этапе общественного обсуждения, которое продлится до 8 июля, что позволяет судьям, адвокатам и представителям академического сообщества вносить свои предложения. После этой даты комиссия должна будет обработать полученные материалы и представить отчет в Верховный суд до 31 августа. До тех пор, пока не будет утверждена окончательная версия, текст будет носить рекомендательный и не имеющий обязательной силы характер».