«Это явно была я»: её изображение использовали без разрешения, чтобы сделать её главной героиней мини-сериала, созданного с помощью ИИ

Серия из сериала «Черное зеркало». Именно так можно описать то, что пережила китайская инфлюенсерша Кристин Ли, когда обнаружила себя в видео, где она избивала женщин и жестоко обращалась с животными. «Но на самом деле это была не она, а версия, сгенерированная с помощью искусственного интеллекта (ИИ) без её согласия, чтобы воплотить в жизнь персонажа из микросериала «The Peach Blossom Hairpin». Эпизод стал вирусным на Hongguo, платформе ByteDance — компании, стоящей за TikTok, — специализирующейся на распространении коротких художественных произведений для социальных сетей. «Именно ее подписчики предупредили ее о существовании видео, которое к тому моменту уже набрало миллионы просмотров. «Я была в шоке. Это была явно я», — сказала Ли и отметила, что было «очевидно», что кто-то использовал ее фотографии, опубликованные в социальных сетях, для создания контента. «Я испытала глубокий страх, задаваясь вопросом, какой человек мог бы сделать нечто подобное», — добавила она. Девушка планирует подать иск в суд, сообщила газета O Globo. Ли была не единственной жертвой: для создания «мужа» Ли также использовалось изображение мужчины, известного под псевдонимом Байкай. По ее словам, его изобразили как кого-то «уродливого и подозрительного». «Какое влияние это окажет на меня, мою работу и мои профессиональные возможности?», — сетовала она. «После скандала The Peach Blossom Hairpin остался доступен на платформе, хотя персонажи были заменены. Тем не менее, представители Hongguo заявили, что видео было удалено за нарушение правил приложения. «В свою очередь, они пообещали усилить процедуры проверки контента и удалили около 670 микросериалов, нарушавших правила платформы. Тем не менее, до сих пор неизвестно, кто стоял за созданием дипфейков Ли и Байцай. «Со своей стороны, китайские власти постановили, что создание микросериалов с использованием ИИ должно подлежать лицензированию. Это решение не случайно: по данным Media Partners Asia, мировой рынок ультракоротких художественных произведений уже превысил 8 миллиардов долларов, причем в Китае наблюдается его бурный рост. «Этот случай напоминает историю Скотта Джекмейна, 52-летнего американского актера, который в середине прошлого года начал получать сообщения от друзей и знакомых, удивленных его появлением в различных рекламных роликах в TikTok, продвигающих самые разные товары. Но это был не он: это был цифровой аватар, созданный на основе видео, права на которое он уступил в 2023 году, и которое теперь использовалось в качестве основы для генерации видео с помощью ИИ, за которые он не получает ни цента. «По мнению Мариано Касеро, технического директора Finnegans, случаи, подобные делу Кристин Ли, являются следствием правового вакуума, который остается нерешенным уже много лет. «К изображению до сих пор не применяется тот подход, который должен быть. Ваше лицо — это персональные данные. «Использование данных без согласия должно влечь за собой те же правовые последствия, что и любое другое нарушение безопасности данных», — говорит он в интервью LA NACION. И добавляет: «Раньше у вас крали пароль, а теперь крадут ваш облик, и это гораздо сложнее восстановить». «Серхио Сиротинский, профессор ИИ в Университете CEMA, разделяет подобную точку зрения: «Сегодня ИИ позволяет воссоздать наше лицо, голос, жесты и внешность, чтобы поместить нас в ситуации, в которых мы никогда не участвовали. Это превращает личность в уязвимый актив». В этой ситуации оба эксперта отмечают, что меры контроля со стороны платформ носят не превентивный, а реактивный характер. «Технологии развиваются, наносят ущерб, и только после этого появляются меры контроля», — анализирует Касеро. В этом ключе Сиротинский подчеркивает важность усиления мер защиты внутри платформ, таких как проверка согласия на использование реальных лиц или голосов, автоматическое обнаружение дипфейков, отслеживаемость контента, сгенерированного с помощью ИИ, видимая маркировка синтетического контента и доступ к оперативным каналам для подачи жалоб. «Ответственность лежит на компаниях, разрабатывающих модели, на платформах, распространяющих контент, и на пользователях, которые его генерируют. Она не может ложиться исключительно на жертву, которая имеет наименьшую власть во всей этой цепочке», — добавляет Касеро. С другой стороны, специалисты, опрошенные этим изданием, подчеркивают, что нормативные рамки должны быть обновлены. «Проблема сложна, и решения тоже. Задача состоит в том, как позволить технологии продолжать развиваться, не ставя под угрозу конфиденциальность людей», — размышляет Касеро. В этом смысле он отмечает, что Латинская Америка все еще «на несколько шагов отстает». Сиротинский объясняет, что, хотя в Аргентине пока нет специального закона о дипфейках, существуют действующие нормативные акты, которые могут обеспечить защиту по нескольким направлениям. «Гражданский и коммерческий кодекс защищает такие права, как право на изображение, честь, частную жизнь и достоинство, в то время как Закон о защите персональных данных защищает использование информации, позволяющей идентифицировать человека, такой как фотографии, видео или биометрические данные», — поясняет он. «Однако стремительное развитие технологий полностью меняет правила игры. «Генеративный ИИ привнес масштаб, скорость и возможности манипуляции, которые эти нормы не предусматривали. Речь идет уже не просто об использовании фотографии без разрешения, а о возможности воссоздавать лица, голоса и целые сцены с абсолютно реалистичным внешним видом», — уточняет Сиротинский. «По этой причине эксперт считает, что регулирование должно развиваться в четырех ключевых направлениях: требовать явного согласия на использование изображения и голоса, вводить обязательную видимую маркировку контента, сгенерированного или измененного с помощью ИИ, создавать механизмы оперативного удаления контента и возмещения ущерба жертвам, а также применять четкие санкции к тем, кто извлекает выгоду из подделки или несанкционированного использования чужих личностей». «Проблема не в том, что нет никакой правовой защиты, а в том, что скорость развития ИИ опередила точность норм», — отмечает Сиротинский. И заключает: «Право приходит, но зачастую приходит слишком поздно».