Иск ребенка с аутизмом открывает дискуссию о регулировании использования искусственного интеллекта в колумбийской системе правосудия.
Колумбия 2024-08-25 01:12:21 Телеграм-канал "Новости Колумбии"
Может ли Chat GPT - знаменитое приложение для искусственного интеллекта - продиктовать судебное решение? Это был один из вопросов, который судья из Боготы задал самому Chat GPT 3.5 при подготовке решения второй инстанции по делу tutela. Он выносил решение по делу женщины, которая обратилась в органы власти с просьбой освободить ее несовершеннолетнего сына, страдающего аутизмом, от уплаты взносов за посещение физиотерапии в учреждении здравоохранения (EPS). Ее дело попало в Конституционный суд, потому что впервые судья в Колумбии подробно описал, что она использовала искусственный интеллект для принятия решения. В поданной им жалобе он объяснил, что не может позволить себе оплачивать услуги, взимаемые EPS за каждый сеанс, а также оплачивать транспорт от своего дома до медицинского центра, где он проходил терапию. По этой причине они с сыном часто добирались пешком, хотя из-за болезни он иногда отказывался ходить. Хотя судья вынес решение в ее пользу, некоторые из ее аргументов были основаны на ответах, предоставленных искусственным интеллектом, чтобы дополнить приговор. В Колумбии использование искусственного интеллекта в судебных сценариях не регламентировано. В случае с приговором, вынесенным в пользу женщины и ее сына, Конституционный суд постановил, что государство должно покрыть транспортные расходы ребенка и его семьи. Но дело пошло дальше, и три судьи пришли к выводу, что вопросы, которые окружной судья в Боготе задал ChatGPT, были частью анализа, который он должен был провести как судебный чиновник. Первый вопрос, который он задал инструменту, касался того, «следует ли освободить несовершеннолетнего с аутизмом от оплаты модераторских услуг за его терапию». Этот вопрос, на который ответил искусственный интеллект, лежал в основе правовой проблемы, которую судья должен был решить на основе колумбийского законодательства и своих собственных критериев. Другая проблема, которую он поднял, заключалась в том, следует ли в случае с такими характеристиками предоставлять tutela. Инструмент искусственного интеллекта не дал конкретного ответа, поскольку одно из его ограничений - не давать рекомендаций по судебному разбирательству. И хотя суд счел, что судья действовал правильно, поскольку искусственный интеллект не подменял его работу, так как чиновник приводил собственные аргументы и использовал инструмент только для подтверждения некоторых вопросов, высший суд воспользовался возможностью установить красные линии, которые не следует пересекать при использовании ChatGPT или других подобных инструментов для принятия судебных решений. Прецедент, созданный судом в этом деле, основан на правилах, которые он устанавливает для судебных чиновников в отношении использования искусственного интеллекта. В нем поясняется, что судья нарушит свои обязанности, если «использует его при осуществлении рассудочных функций, которые не подлежат делегированию и являются незаменимыми». Он также ссылается на принцип прозрачности, который обязывает должностное лицо раскрывать информацию о том, что оно будет использовать эти инструменты, или на риск «отсутствия тщательной проверки достоверности информации, которая поддерживает мотивацию решения, что может поставить под угрозу независимость или беспристрастность из-за предубеждений и галлюцинаций ИИ». И в заключение говорится о том, что нарушение будет также иметь место, если «не будут приняты необходимые меры предосторожности, чтобы избежать нарушения таких прав, как хабеас дата или неприкосновенность частной жизни». Каталина Морено, заместитель директора фонда Karisma, организации, которая работает над правильным использованием технологий в Колумбии, придерживается аналогичного мнения. Она объясняет, что именно использование определяет этические границы применения искусственного интеллекта. «Одно из прав граждан - быть судимым компетентным лицом, судьей, а также право знать, кто выносит решение и на основании каких правил они его принимают. Вот где возникает дилемма, когда используется ChatGPT», - говорит он. В беседе с этой газетой Морено рассказал, что попечительская палата суда анализировала это дело более года. За это время судья Хуан Карлос Кортес обратился к нескольким технологическим организациям с просьбой высказать свое мнение. Она, через Карисму, была одной из тех, кто предоставил судьям рекомендации по использованию ИИ в качестве инструмента. «Например, в данном случае было бы иначе попросить ИИ обобщить существующие документы о препятствиях для здоровья людей с аутизмом. Это вполне уместный вопрос, дополняющий решение, но не заменяющий суждения судьи», - говорит он. Он заключает, что искусственный интеллект должен не только повысить эффективность судебного администрирования и сократить время реагирования, но и улучшить качество решений. При изучении этой темы Суд затронул вопрос о том, не было ли в конечном итоге нарушено надлежащее судопроизводство в результате включения ответов искусственного интеллекта в решение. По этому поводу Андрес Диас Арана, профессор уголовного права в Университете Экстернадо и эксперт в области юридических технологий, заявил этой газете, что «поисковая система никогда не заменит работу человека, потому что работа судьи заключается не в поиске информации, а в создании норм права путем рассуждений, которые по своей природе являются человеческими». Диас также владеет системой искусственного интеллекта, в которую загружено 550 000 решений, законов, постановлений и судебных документов Колумбии, и которая служит онлайновым юридическим помощником в этой стране. «Разработка этих инструментов позволяет сократить время рассмотрения дел, повышая производительность судей, магистратов и адвокатов». Это не первый раз, когда высший суд Колумбии сталкивается с проблемой, связанной с искусственным интеллектом. Первая дилемма возникла на родине. Конституционный суд сам использует PretorIA, инструмент, который классифицирует постановления судей tutela и тем самым облегчает магистратам суда выбор тех, которые необходимо изучить. Это программное обеспечение делает первый фильтр из более чем 1700 тутелей, поступающих в суд каждый день. Его использование находится в поле зрения Организации Объединенных Наций по вопросам образования, науки и культуры (ЮНЕСКО), которая с 2021 года следит за использованием искусственного интеллекта в правовом государстве по всему миру. Несмотря на значительный прогресс в Колумбии, ЮНЕСКО сообщила, что в таких странах, как Аргентина, использование ИИ для подготовки проектов судебных решений уже регламентировано. В Мексике судам разрешено использовать системы искусственного интеллекта для определения возможности вступления в систему социального обеспечения; в Китае дискуссия вышла за рамки использования чатов, и судебные органы теперь имеют систему, которая организует, характеризует и анализирует судебные и криминалистические доказательства, представленные судьей, чтобы облегчить их анализ. По мнению ЮНЕСКО, несмотря на то, что технологический прогресс становится все труднее контролировать, руководство по его использованию должно регулироваться каждой страной с ключевым флагом: «Они должны повышать самостоятельность человека и способность принимать решения, а не заменять или неоправданно влиять на человеческие суждения».