Тейлор Свифт против «дипфейков»: случай, поставивший под вопрос этические принципы управления ИИ

24 апреля юридическая команда Тейлор Свифт подала три заявки в Бюро по патентам и товарным знакам США. Две из них касались защиты конкретных фраз, произнесенных её голосом, а третья — фотографии, сделанной во время её последнего мирового турне «Eras Tour». Цель этого шага заключалась в том, чтобы юридически закрепить за собой эти фрагменты идентичности в условиях развития искусственного интеллекта. «Это не единичный случай: несколькими месяцами ранее премьер-министр Италии Джорджия Мелони была вынуждена выступить с опровержением изображения, сгенерированного с помощью ИИ, которое стало вирусным, а до этого в TikTok циркулировали поддельные видео с участием Свифт и Рианны в рамках рекламных афер». Эти случаи подтверждают то, о чём давно предупреждает Сесилия Данези, директор магистерской программы «Этическое управление искусственным интеллектом» Папского университета Саламанки и автор книги «Империя алгоритмов: инклюзивный, этичный ИИ на службе человечества». «—Тейлор Свифт зарегистрировала фразы, произнесённые её голосом, и свою фотографию в качестве товарных знаков, чтобы защититься от ИИ. Почему артистка такого масштаба, имеющая за спиной всю юридическую машину, вынуждена прибегать к подобному обходному пути вместо того, чтобы опираться на авторское право или традиционное право на изображение?» — Случай с Тейлор Свифт демонстрирует, что наша правовая система была разработана для аналогового мира и сегодня сталкивается с совершенно новыми вызовами, на которые мы пока не можем дать точного ответа. Певица следует по стопам актёра Мэттью Макконехи и также оказывается в центре бурной полемики: газета «The New York Times», авторы и издательства подали иски против компаний, занимающихся искусственным интеллектом, за использование их данных для обучения алгоритмов. Фактически, сейчас ведётся оживлённая дискуссия о том, представляет ли такое обучение нарушение авторского права. Авторское право защищает произведения, но не обязательно голос как идентифицирующий признак, а право на изображение различается в зависимости от страны и не всегда позволяет оперативно реагировать на синтетический контент. Поэтому такие инструменты, как право на товарный знак, в конечном итоге обеспечивают дополнительную защиту для определенных видов коммерческого использования. «Важно то, что речь уже идет не только о защите песни или фотографии, но и о цифровой идентичности человека. ИИ позволяет воспроизводить голоса, лица и стили с беспрецедентным качеством, что заставляет переосмыслить правовые категории, которые на протяжении десятилетий казались достаточными». — Что говорит о нашей правовой системе тот факт, что закон о товарных знаках, предназначенный для продуктов и услуг, сегодня является наиболее эффективным инструментом для защиты чего-то столь личного, как голос?» — Это показывает, что право проходит процесс адаптации. Когда норма, предназначенная для идентификации товаров, в конечном итоге используется для защиты атрибутов личности, это сигнал о наличии пробела в законодательстве. Это не означает, что система потерпела неудачу, а лишь то, что она пытается найти ответы с помощью имеющихся инструментов, пока развивается соответствующее законодательство. Так было всегда: по мере развития общества и обновления законодательства для первоначального реагирования применяются аналогичные правовые концепции. В этом смысле ключевую роль играют судьи, обладающие глубокими знаниями в области управления ИИ». Искусственный интеллект стирает границы между интеллектуальной собственностью, защитой данных, личными правами и недобросовестной конкуренцией. Становится всё более очевидным, что эти вызовы требуют междисциплинарного подхода и новых правил, адаптированных к цифровой эпохе. — Это не только проблема знаменитостей. А как быть обычному человеку, у которого нет за спиной юридической фирмы вроде TAS Rights Management? Существует ли реальная защита для всех остальных?» — Защита существует, но она, как правило, более фрагментирована и ее сложнее реализовать. В зависимости от страны можно сослаться на право на изображение, защиту персональных данных, нормы защиты прав потребителей или даже подать гражданский иск о возмещении ущерба. Однако судебные разбирательства в отношении контента, создаваемого и распространяемого с огромной скоростью на цифровых платформах, для большинства людей являются сложными и дорогостоящими. Обычно мы не знаем, куда обращаться, как проводить проверку и на какие нормы опираться. «Поэтому главная задача заключается не только в признании прав, но и в разработке превентивных механизмов, обязательств для платформ и технологических инструментов, которые позволят выявлять и удалять такой контент до того, как ущерб станет необратимым». — Некоторые штаты США приняли специальные законы, такие как закон ELVIS в Теннесси, а на федеральном уровне обсуждается закон NO FAKES. Как вы оцениваете положение дел в Латинской Америке в рамках этой дискуссии? Есть ли здесь благодатная почва для того, чтобы что-то подобное произошло?» —Инициативы на мировом уровне постоянно набирают обороты, и в настоящее время рассматриваются соответствующие законопроекты: Ирландия стремится защитить цифровую идентичность, запретив использование голоса и изображений с помощью ИИ; в Испании разрабатывается законопроект о надлежащем использовании и регулировании искусственного интеллекта; а Дания подготовила поправки к своему законодательству об авторском праве, чтобы предоставить людям больший контроль над своими голосами и изображениями в дипфейках. Важной вехой является обязательство по обеспечению прозрачности данных обучения, закреплённое в европейском законе об искусственном интеллекте (AI Act) для определённых моделей ИИ. «Латинская Америка пока находится на начальном этапе, хотя дискуссия начала набирать обороты. Регион имеет прочные традиции защиты личных прав, что служит хорошей основой для решения этих новых вызовов». Однако до сих пор отсутствуют конкретные нормы, регулирующие такие явления, как дипфейки, клонирование голоса или синтетическая личность. «Вместо того чтобы копировать зарубежные модели, я считаю, что шанс заключается в создании собственных нормативно-правовых рамок, совместимых с международными стандартами и адаптированных к нашей институциональной реальности. Европейский опыт показывает, что можно стимулировать инновации, не отказываясь от защиты основных прав». — «Если сегодня любой может клонировать голос или лицо, имея всего несколько секунд материала, что остается от идентичности как юридического понятия? Мы по-прежнему говорим о «праве на изображение»? — «Сегодня идентичность уже нельзя сводить исключительно к изображению. Мы должны говорить о цифровой идентичности как о совокупности атрибутов, включающей голос, жесты, манеру выражения, внешний вид и даже определенные модели поведения, которые искусственный интеллект может воспроизвести. «Это изменение вынуждает расширить юридический взгляд. Вопрос уже заключается не только в том, кто может использовать фотографию, но и в том, кто может цифровым образом воссоздать человека и на каких условиях. Это одна из главных дискуссий, которые определят правовое поле следующего десятилетия». В любом случае, то, что в XXI веке клонирование или подделка стали доступными, не означает, что из-за этого мы должны лишиться своих прав. «Если цифровая идентичность, как говорит Данези, является одной из главных тем дискуссий, которые будут определять правовое поле следующего десятилетия, то задача заключается не только в законодательстве: она также связана с образованием. Общество должно понять, как работает эта технология, а судьи, законодатели, компании и международные организации должны осознавать, что именно они регулируют». В этом контексте появляются такие инициативы, как магистерская программа «Этическое управление искусственным интеллектом» Папского университета Саламанки, которую Данези возглавляет совместно с Хесусом Кондераной. «Это программа непрерывного образования, полностью реализуемая в виртуальном формате, рассчитанная на 60 кредитов ECTS и 25 мест, которая начнётся 14 сентября 2026 года и будет вестись на испанском языке. Учебный план охватывает широкий спектр тем — от введения в ИИ и его философию до более конкретных предметов, таких как цифровые права и алгоритмические аудиты, цифровое насилие и генеративный ИИ, а также взаимосвязь между крупными технологическими компаниями и правами человека. Кроме того, программа включает недельную очную летнюю школу на кампусе в Саламанке с возможностью дистанционного участия для тех, кто обучается заочно. «Как описывает сам университет, программа направлена на подготовку специалистов, способных ориентироваться в технических, этических и нормативных вопросах и стремящихся влиять на то, как правительства, компании и международные организации в конечном итоге принимают решения в отношении этих технологий. Выпускники программы могут найти себя в таких сферах, как аудит алгоритмов, технологический и этический консалтинг, академические исследования или консультирование по вопросам государственной политики в области управления ИИ, как в частном секторе, так и в регулирующих органах». — Вы руководите магистерской программой, которая как раз и готовит людей к тому, чтобы они задумывались над этими дилеммами до того, как дело дойдет до суда. Чему там учат в связи с таким делом, как дело Свифт? В чем заключается цель?» — «Наша цель — подготовить специалистов, способных предвидеть эти конфликты, а не просто реагировать, когда они уже произошли. Магистерская программа как раз и посвящена этому пересечению технологий, этики, регулирования и государственной политики, готовя специалистов, которые сегодня востребованы правительствами, международными организациями и компаниями. «В случае, подобном делу Тейлор Свифт, мы анализируем не только то, какие правовые инструменты существуют, но и то, как проектировать ответственные системы ИИ с самого начала, как управлять рисками, проводить алгоритмические аудиты и создавать рамки управления, позволяющие внедрять инновации без ущерба для основных прав человека». Именно такой комплексный подход и отличает эту программу. Выпускники этой программы пользуются огромным спросом, поскольку рынок труда сегодня, как никогда ранее, нуждается в универсальных специалистах, способных предлагать глобальные и целостные решения в сфере управления ИИ, а не ограничиваться анализом только технической или социальной составляющей. Трансдисциплинарный подход — это неизбежный подход. — Почему, по-вашему, до сих пор нужно так настойчиво подчеркивать важность образования в этой области? — Потому что искусственный интеллект уже перестал быть темой, интересующей исключительно инженеров. Сегодня он влияет на выборы, здравоохранение, образование, интеллектуальную собственность, занятость и демократию. Лица, принимающие решения — в государственном и частном секторах или в международных организациях — должны понимать как возможности, так и риски этой технологии. «Именно с этой целью мы организовали семинар «Тейлор Свифт, выборы, алгоритмы и права человека: кто управляет ИИ?», открытое мероприятие, в ходе которого на примере известного случая объясняются дискуссии, затрагивающие все общество. Это способ донести тему управления ИИ до широкой публики и показать, почему нам нужны специалисты, готовые возглавить эту трансформацию. Кроме того, там мы увидим, что вопросы управления затрагивают не только крупные организации, но и всех обычных людей в повседневной жизни. — Учитывая постоянный прогресс технологий, вы считаете, что когда-нибудь удастся прийти к соглашению о том, как управлять ими с юридической и этической точек зрения, или это будет постоянный «незавершённый процесс»? — Я полагаю, что управление искусственным интеллектом неизбежно будет динамичным процессом. Не существует окончательного регулирования для технологии, которая развивается так быстро. Важно не преследовать каждую инновацию новым законом, а выработать законодательную практику, соответствующую экспоненциальному росту нашей эпохи. Законы регулируют не сами технологии, а их социальные последствия. Нам нужны прочные принципы, гибкие институты и механизмы международного сотрудничества, способные адаптироваться к изменениям. В этом плане региональный диалог имеет решающее значение: действовать единым фронтом перед лицом компаний, которые мощнее самых могущественных государств, — это фундаментальный и стратегически важный шаг. «Хорошая новость заключается в том, что мы уже движемся в этом направлении. Сегодня растет консенсус относительно необходимости разработки ИИ, ориентированного на человека, прозрачного и уважающего права человека. Вероятно, правила будут постоянно меняться, но это не означает неопределенности; это означает, что управление должно развиваться в том же темпе, что и технологии».