Когда ИИ надевает тогу при вынесении приговора, Эмилио Ногуэрол Уседа

Искусственный интеллект стремительно меняет наше поведение и взаимодействие, но то, что мы видели до сих пор в моделях общественного пользования, не идет ни в какое сравнение с тем, что мы увидим в ближайшие годы, когда достигнем сингулярности - все более вероятного сценария, в котором ИИ превзойдет человеческий разум и сможет совершенствовать себя, что станет поворотным моментом для цивилизации, какой мы ее знаем, Тем из нас, кто мало или совсем ничего не знает о технологиях, остается только ждать и приспосабливаться, но как юристу мне кажется важным задуматься над одним вопросом: что произойдет, когда ИИ наденет мантию и будет разрешать споры, как судья? В рамках 68-й годовщины Университета Лимы его библиотека организовала очень интересную дискуссию "Дебаты и перспективы XXI века. Сингулярность ближе к Рэю Курцвейлу", в которой я имел удовольствие участвовать в качестве спикера вместе с Хулио Сезаром Матеусом и Хайме Сотомайором. Мы втроем, под руководством Эдгара Уаранги, прокомментировали свои размышления о книге вышеупомянутого американского ученого и футуриста. Это была важная возможность обменяться идеями об искусственном интеллекте, обещаниях, связанных с его использованием, и, конечно, о рисках, представляя различные дисциплины: Хулио - коммуникации, Хайме - системную инженерию, Эдгар - компьютерные науки, а я - юридические науки. В книге Курцвейла представлен довольно оптимистичный прогноз на следующее десятилетие в отношении головокружительного развития и использования искусственного интеллекта во всех сферах жизни общества, даже если говорить о рисках, которые несет с собой сама технология, и для которых сила институтов и управления при разработке и внедрении будет иметь трансцендентное значение. Соглашения, такие как 23 принципа Асиломарской конференции (2021) или содержащиеся в Блетчлийской декларации (2023), показывают, что можно договориться о пределах и масштабах ИИ. Среди этих соглашений - соглашение о прозрачности систем правосудия, которое подразумевает, что «любое участие автономной системы в принятии судебных решений должно давать удовлетворительное объяснение, проверяемое компетентными людьми» (принцип 9 Асиломарской конференции). Почему это так важно? Как отмечает Morandín-Ahuerma (2023), хотя ИИ уже все чаще используется в судебных системах для оценки рисков, рекомендаций по санкциям и выполнения множества административных задач и принятия решений, необходимо гарантировать, что решение может быть объяснено простым, понятным и проверяемым человеком способом, другими словами, что оно допускает подотчетность. Такая проверяемость решений крайне важна, поскольку ИИ может допускать ошибки в рассуждениях, галлюцинации или содержать предубеждения в своей конструкции. Если на кону стоит право человека или, что более чувствительно, его свобода, то ИИ, используемый для вынесения решения, должен позволять проанализировать нейронный путь, который привел к принятию конкретного решения. Это требование вписывается в конституционные принципы отправления правосудия (ст. 139 Конституции), которые придется переосмыслить в новые времена. Однако я признаю, что сама идея участия искусственного интеллекта в разрешении споров, исторически возлагавшихся только на судей (а теперь - на арбитров), может, в свою очередь, вызвать у некоторых противоречивые чувства, Несколько недель назад Эрнандо Герра Гарсия Куэва рассказал мне анекдот о моем прадеде Антеноре, своем отце, который в жизни был почтенным судьей и за решениями которого он с самого раннего возраста (сопровождаемый глубоким чувством социальной справедливости, которое и по сей день зовет его) пристально следил с желанием понять, чем они мотивированы. История закончилась фразой, которую патриарх моей семьи передал ему и которая до сих пор звучит в моей голове: «Я не вершу правосудие, единственный, кто вершит правосудие, - это Бог, а я лишь вершу его». Я считаю, что мы переоцениваем работу судебной власти, как будто она соответствует всемогущим иллюминатам, которые будут принимать решения по различным делам с изысканным, несравненным знанием фактов и прав, когда в действительности они не более чем профессионалы, которые, в лучшем случае, имеют некоторый опыт в своей специальности и соответствующую подготовку для разрешения споров, используя только и исключительно закон. Но афоризм «iuria novit curia» (судья знает закон) в странах, не имеющих таких институтов, как наш, утопичен; апеллировать к нему - наивно и даже небрежно. Я лично наблюдал это несоответствие в решениях, которые откровенно позорны, и я не знаю, вызвано ли это ленью, невежеством или часто предполагаемым процессуальным бременем. Это ненормально и неприемлемо, что осуществление права на двойную инстанцию (или исключительная кассационная жалоба или ампаро на судебное решение) должно быть средством выявления качества судебной системы. ИИ может многое облегчить в этой сфере постоянных споров и ожиданий отставки... Возражения против использования искусственного интеллекта для разрешения споров проистекают из романтического представления о судье, который знает все, «вершит» правосудие, как божество, и который, просто прочитав аргументы обеих сторон в паре письменных исковых заявлений и возражений и во многих случаях обойдясь без устных слушаний, считает себя способным иметь сформированное мнение и принять решение, которое повлияет на основные права людей и компаний, а значит, и на их судьбу.., Китай, похоже, нашел больше плюсов, чем минусов в своем анализе использования ИИ в правосудии, поскольку в провинции Ханчжоу была разработана система судебной помощи под названием Xiao Zhi 3.0 или «Маленькая мудрость», которая помогла разрешить более десяти тысяч дел (DW, 2023). Но не все страны одинаково реагируют на присутствие искусственного интеллекта в системе правосудия: например, в 2019 году Франция запретила системы анализа искусственного интеллекта для приговоров, предназначенные для того, чтобы позволить пользователю предсказать судебные решения того или иного суда. Фактически, любому, кто не соблюдает этот запрет, грозит пятилетний тюремный срок и штраф в размере более 500 000 евро за нарушение персональных данных как охраняемого юридического актива. В Перу важным шагом на пути внедрения ИИ в систему отправления правосудия стало принятие в июне 2023 года закона № 31814 - закона, способствующего использованию искусственного интеллекта в интересах экономического и социального развития страны. Несмотря на краткость закона, законодатель объявил продвижение искусственного интеллекта национальным интересом, и его работоспособность будет видна после утверждения нормативных актов. Пока же Президиум Совета министров опубликовал проект нормативного акта в ноябре 2024 года, и важно отметить предрасположенность к внедрению искусственного интеллекта в государственный аппарат для сокращения пробелов и улучшения его функционирования. Он решил принять меры по регулированию и лишь в исключительных случаях запретить некоторые виды использования, которые считаются максимально рискованными. Возвращаясь к вопросу об отправлении правосудия, проект постановления устанавливает, что в рамках систем искусственного интеллекта с высоким, но приемлемым рейтингом риска как раз и будет осуществляться «поддержка в принятии решений, нормативном или фактическом толковании юрисдикционным органом», а также «проверка достоверности доказательств в ходе расследования или уголовного процесса». Таким образом, если этот текст будет одобрен и соответствующий верховный декрет будет опубликован, судебная власть, Конституционный суд и даже прокуратура в своих расследованиях смогут законно использовать искусственный интеллект для решения своих соответствующих конституционных задач. Решение принято: я не верю, что судебная система может стать хуже благодаря этим мерам, напротив, это возможность устранить недостатки и обеспечить качество. У меня вошло в привычку выдергивать абзацы из судебных решений и, снабдив их достаточным справочным материалом, правовыми критериями и соответствующей судебной практикой, представлять их на проверку ИА, чтобы убедиться, насколько они логичны и нет ли в их аргументации изъянов. Увы, если бы эта работа проводилась только до их издания. Курцвейл развеивает сомнения по поводу злоупотребления ИИ, приводя в пример принцип свободной конкуренции, указывая, что каждый шаг на пути к сверхразуму должен быть принят рынком, нами, обществом. Поскольку искусственный интеллект создан людьми для решения проблем, существуют мощные стимулы для его оптимизации в очень полезных целях. Он будет отражать наши ценности, и при отправлении правосудия его следует использовать в строгом соответствии с конституционными принципами, которые задают ему направление. Искусственный интеллект в правосудии представляется как огромная возможность сделать доступ к правосудию более динамичным, повысить качество принимаемых решений и сократить время и нагрузки, которыми оно насыщено. Правосудие, которое занимает слишком много времени, не является правосудием, равно как и правосудие, которое кажется содержательным, но не имеет его. Судьи должны позволить себе воспользоваться технологиями, которые уже сегодня есть в их распоряжении, но прежде они должны осознать то, что очень четко понимал мой прадед: они не вершат правосудие, они лишь отправляют его, и так будет проще.