Искусственный интеллект увеличил количество изображений насилия в Интернете

Искусственный интеллект (ИИ) - один из инструментов, наиболее часто используемых сегодня для распространения в интернете изображений сексуальной эксплуатации и насилия. Об этом говорится в исследовании, опубликованном во вторник (6) неправительственной организацией Safernet. Например, с помощью генеративного искусственного интеллекта преступник может использовать видео или изображение, доступное в Интернете, и превратить его в сексуальный контент. "Распространение приложений генеративного искусственного интеллекта позволяет сделать фотографию одетого человека и снять с него одежду", - объясняет Тьяго Таварес, основатель и генеральный директор SaferNet Brasil. "Этим можно манипулировать, генерировать синтетические медиа и представлять человека в ультрареалистичном образе обнаженного тела". Эта тема обсуждалась сегодня на мероприятии Safer Internet Day, которое проходит до завтрашнего дня (7) в Сан-Паулу. В одном из выступлений исполнительный директор глобального альянса WeProtect Иэн Дреннан заявил, что искусственный интеллект - это новая тенденция в делах о сексуальном насилии по всему миру. "Вы просто используете синтетическое изображение, вы даже не используете реальное изображение. И это может быть доведено до промышленных масштабов. Преступники могут получить доступ к доступным технологиям искусственного интеллекта или расширенной реальности", - пояснил он. "Это материал, который, возможно, не является незаконным, но используется в сексуальных целях", - предупредил он. Проблема широка и включает в себя не только манипуляции с изображениями. Дреннан также привела примеры изнасилований, которые произошли в комнатах виртуальной реальности или метавселенной и которые расследуются в некоторых странах. "Безопасны ли комнаты виртуальной реальности для девочек? Мы должны бороться с этим видом преступлений на законодательном уровне". По словам эксперта, наиболее уязвимыми к подобному сексуальному воздействию в Интернете являются, например, дети с ограниченными возможностями или представители ЛГБТ-сообщества. "Мы должны подходить к этому вопросу деликатно, чтобы эти группы не чувствовали себя еще более маргинализированными или уязвимыми", - сказал он. В конце прошлого года Палата депутатов одобрила введение уголовной ответственности для всех, кто создает и распространяет изображения (фото и видео) обнаженной натуры и сексуального содержания человека с использованием искусственного интеллекта в Бразилии. Согласно тексту закона, наказание за подобное правонарушение составит от 1 до 4 лет тюрьмы плюс штраф. По мнению Дреннана, этот закон - один из шагов на пути к предотвращению распространения этого вида преступлений в Интернете. Но необходимо сделать еще больше, предупреждает он. "Нам нужна помощь со стороны правительства, частного сектора и гражданского общества, а также расширение прав и возможностей родителей и опекунов детей. Но эта ответственность не должна возлагаться исключительно на семьи и детей". Озабоченность по поводу использования искусственного интеллекта для сексуальной эксплуатации или насилия, а также для использования в политических целях распространилась и на частный сектор. Сегодня американский гигант Meta объявил, что будет идентифицировать любое изображение, созданное искусственным интеллектом, которое появляется в его социальных сетях Facebook, Instagram и Threads. По словам Клегга, фотореалистичные изображения, созданные искусственным интеллектом в социальных сетях Meta, уже маркируются. Но компания также разрабатывает инструменты для идентификации контента, созданного искусственным интеллектом других компаний. "Контент от партнеров, включая Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock, будет помечен метками, указывающими на то, что он был создан с помощью искусственного интеллекта". Хотя это не идеальное решение и не решит всех проблем, это важный первый шаг в развивающемся процессе", - написал Икс. "Люди ценят прозрачность этой новой технологии. Поэтому чем больше мы сможем сделать для ее демистификации, тем лучше", - добавил он. Исследование, опубликованное сегодня компанией Safernet, показало, что количество сообщений о наличии в Интернете изображений сексуального насилия и эксплуатации детей достигло рекордного уровня в 2023 году, составив в прошлом году 71 867 жалоб. "Это абсолютный рекорд по количеству новых URL (адресов или веб-страниц), о которых сообщалось с момента создания организации в 2005 году. По мнению НПО, три основных фактора привели к росту числа сообщений о сексуальном насилии и эксплуатации детей. Помимо использования искусственного интеллекта для создания подобного контента, массовые увольнения в крупных технологических компаниях, которые затронули команды безопасности, честности и модерации контента на некоторых платформах, а также распространение продажи обнаженных и сексуальных изображений, самостоятельно созданных подростками. О случаях сексуальной эксплуатации и насилия в Интернете можно сообщить в Центр сообщений SaferNet. О случаях сексуального насилия над детьми можно также сообщить по телефону Disque 100, каналу, управляемому федеральным правительством.