Сенат утвердил правила использования искусственного интеллекта

Пленарное заседание Сената во вторник (10) одобрило нормативную базу для использования искусственного интеллекта в стране. Законопроект устанавливает основополагающие принципы разработки и использования искусственного интеллекта. Он определяет, что технология должна быть прозрачной, безопасной, надежной, этичной, свободной от дискриминационных предрассудков, уважающей права человека и демократические ценности. Законопроект также требует принимать во внимание технологическое развитие, инновации, свободное предпринимательство и свободную конкуренцию. Помимо перечисления систем ИИ, которые считаются высокорискованными, законопроект запрещает разработку некоторых видов технологий ИИ, наносящих ущерб здоровью, безопасности или другим основным правам. Например, текст запрещает государственным органам создавать системы, которые классифицируют или ранжируют людей на основе социального поведения для получения доступа к товарам и услугам или государственной политике «незаконным или непропорциональным образом», или системы ИИ, которые способствуют сексуальному насилию или эксплуатации детей и подростков. Законопроект также определяет системы ИИ повышенного риска как те, которые могут причинить вред людям или обществу, например, системы управления дорожным движением, сети водо- и электроснабжения. Также к системам ИИ повышенного риска относятся системы, применяемые в сфере образования и профессиональной подготовки для определения доступа в учебные заведения или контроля за учащимися, а также системы, используемые для найма работников или повышения в должности на работе. Системы ИИ для «распределения задач, контроля и оценки работы и поведения людей в сфере занятости, управления работниками и доступа к самостоятельной занятости» также считаются системами повышенного риска. Другие примеры - системы ИИ для оценки приоритетов в основных государственных службах, таких как пожарная охрана и здравоохранение. Также в тексте упоминаются системы искусственного интеллекта, используемые системой правосудия для расследования преступлений или представляющие риск для личных свобод или демократического верховенства закона. Системы искусственного интеллекта в области здравоохранения, например, для помощи в медицинской диагностике и процедурах, а также для разработки автономных транспортных средств в общественных местах - вот другие примеры систем искусственного интеллекта высокого риска, перечисленные в законопроекте. В ходе рассмотрения законопроекта в Сенате было исключено положение, согласно которому системы искусственного интеллекта, используемые цифровыми платформами, так называемыми «большими технологиями», для производства, анализа, рекомендации и распространения контента, считались системами повышенного риска. По словам докладчика, сенатора Эдуардо Гомеша (PL-TO), удаление этого раздела было соглашением сторон, чтобы продвинуть законопроект 2.338 от 2023 года, автором которого является председатель Сената Родриго Пачеко (PSD-MG), на голосование. Текст был одобрен символическим голосованием во временном комитете, созданном для анализа этого вопроса.