Реклама секс-работников, использующих ИИ, заполонила Instagram и TikTok

В последние годы Facebook, Instagram и TikTok пытались жестко ограничивать распространение контента сексуального характера, практически во всех случаях полностью запрещая обнаженность, блокируя секс-работников и даже принимая меры против некоторых художников и педагогов, откровенно говорящих о сексуальном здоровье и безопасности. Однако в последнее время через их системы модерации проскальзывает новый вид контента сексуального характера: реклама полуобнаженных чат-ботов с нецензурной лексикой, работающих, по словам их создателей, на основе искусственного интеллекта. В последние месяцы десятки технологических стартапов размещают в TikTok, Instagram и Facebook откровенную рекламу приложений, продвигающих контент, не подходящий для просмотра на работе (NSFW). Реклама обещает «фотографии NSFW», индивидуальных девушек в стиле пинап и чаты «без цензуры», а во многих из них фигурируют созданные с помощью цифровых технологий потенциальные «подружки» с большой грудью и в обтягивающей одежде. В некоторых рекламных объявлениях используются мемы с популярными персонажами детских телепередач, такими как Губка Боб Квадратные Штаны, Барт Симпсон или Куки-монстр, для продвижения приложений, с помощью которых люди могут создавать «фотографии, не подходящие для просмотра на работе». В других — представлены виртуальные девушки, которые выглядят как подростки или даже младше, иногда в стиле аниме. NBC News обнаружила 35 разработчиков приложений, размещающих рекламу откровенно сексуального содержания в приложениях, принадлежащих Meta — материнской компании Facebook и Instagram. В общей сложности эти разработчики разместили более 1000 рекламных объявлений, многие из которых легко найти и просмотреть в онлайн-библиотеке рекламы Meta, доступной для общественности. Как выяснило NBC News, 14 разработчиков приложений размещали в TikTok ещё сотни рекламных объявлений с использованием ИИ, носящих откровенно сексуальный характер. Некоторые из них, но не все, совпадали с рекламой, появившейся в Meta. Однако осталось неясным, сколько из них было показано в США, поскольку библиотека рекламы TikTok обеспечивает прозрачность только в отношении объявлений, появляющихся в Европе. Политика TikTok в отношении рекламы запрещает объявления, которые «демонстрируют или продвигают использование запрещённых товаров или услуг для взрослых». Meta и TikTok публикуют данные, связанные с рекламой, в общедоступных архивах в целях обеспечения прозрачности. Там они сообщили, что удалили часть рекламных объявлений разработчиков до того, как с ними связались представители NBC News, но не все. Согласно данным библиотеки TikTok, некоторые объявления набрали тысячи просмотров и оставались в эфире в течение нескольких недель, прежде чем TikTok их удалил. Эта маркетинговая кампания является частью «золотой лихорадки» в сфере ИИ, в рамках которой разработчики приложений — большинство из которых базируются за рубежом — привлекают клиентов, заинтересованных в сексуальных или романтических отношениях с индивидуально настраиваемыми цифровыми персонажами. Это часть более широкого движения, направленного на извлечение выгоды из всплеска интереса к ИИ, последовавшего за популярностью продукта ChatGPT технологического стартапа OpenAI, который пересмотрел ожидания относительно возможностей чат-ботов на базе ИИ. Некоторые исследователи заявили, что эротические приложения на базе ИИ извлекают выгоду из двойных стандартов, которые наносят ущерб реальным секс-работникам. «Работникам секс-индустрии запрещено зарабатывать на своём образе, но какой-нибудь «технарь», создающий похожее изображение с помощью ИИ, может это делать», — сказала Каролина Аре, научный сотрудник Нортумбрийского университета и Центра цифрового гражданства в Великобритании. В рекламе обычно продвигаются сексуализированные женские образы. Аре считает, что это отражает гендерный уклон — социальные сети свободно разрешают рекламу сексуального характера только в том случае, если целевая аудитория — мужчины. Библиотеки рекламных объявлений Meta и TikTok не всегда фиксируют отклоненные или удаленные объявления, поэтому сложно сказать, какие именно объявления были отфильтрованы платформами, но поиск по терминам, связанным с виртуальными подругами, в целом дает больше результатов, чем поиск по терминам, связанным с виртуальными парнями. Meta и TikTok активизировали удаление рекламных объявлений с откровенным сексуальным содержанием, созданных с помощью ИИ, после того как в среду с ними связались представители NBC News, но они не ответили на вопросы о том, как эти объявления вообще прошли через их фильтры. В своем заявлении Meta сообщила, что ее запрет на контент для взрослых в равной степени распространяется как на контент, созданный людьми, так и на контент, сгенерированный ИИ. «Наши правила запрещают рекламу, содержащую контент для взрослых, который носит чрезмерно откровенный или сексуально провокационный характер — независимо от того, сгенерирован ли он искусственным интеллектом или нет», — заявила компания. «Наши правила и механизмы их соблюдения разработаны с учетом особенностей этой крайне сложной среды, и мы активно отслеживаем любые новые тенденции в контенте, сгенерированном искусственным интеллектом». Meta также сообщила, что пересматривает свои публичные правила, чтобы обеспечить ясность стандартов. В своём заявлении TikTok подтвердил, что его правила запрещают рекламу сексуально провокационного характера, и сообщил, что удалил примеры, опубликованные NBC News. Как выяснила NBC News, аналогичная реклама появляется в магазинах приложений Apple и Google, хотя масштабы её распространения там неизвестны, поскольку эти компании не раскрывают информацию обо всех покупателях рекламных мест. Реклама в магазинах приложений и социальных сетях — один из самых распространённых способов, с помощью которых технологические стартапы привлекают новых клиентов. Apple и Google заявляют, что не допускают приложения с порнографическим содержанием в своих магазинах приложений. В четверг Google подтвердила, что в её магазине приложений запрещены сервисы, «предназначенные для получения сексуального удовлетворения». Компания сообщила, что приостановила работу нескольких приложений и рекламных объявлений, о которых конкретно спрашивала NBC News. Apple не дала немедленного комментария и заявила, что готовит ответ. На платформах Meta некоторые разработчики приложений размещали по несколько сотен рекламных объявлений на каждое приложение, как показывают результаты поиска в библиотеке Meta. У приложения Magir AI-Art Generator из Сингапура в понедельник было 170 активных рекламных объявлений; в одном из них зритель видит пышные ягодицы виртуальной женщины в спортивной одежде, рядом с которой написана аббревиатура «NSFW». У приложения из Китая под названием «AI Art Generator — Fantasy» было 190 активных рекламных объявлений; в одном из них использовалось изображение персонажа Marvel Росомахи с подписью «Никто не должен об этом знать. Это приложение может генерировать контент NSFW» (по всей видимости, приложение не имеет никакого отношения к Marvel). Ни одна из компаний-разработчиков приложений не ответила на запросы о комментарии. Сотни рекламных объявлений, по всей видимости, балансируют на грани или пересекают границы того, что Meta и TikTok считают допустимым в рекламе. Согласно рекламным стандартам Meta, реклама «не должна содержать контент для взрослых», включая изображения людей в откровенных или двусмысленных позах, а также действия, которые являются чрезмерно двусмысленными или сексуально провокационными. Реклама также не может быть сосредоточена на «сексуальном удовольствии». У Meta нет отдельного правила, касающегося контента для взрослых, созданного с помощью ИИ. Согласно политикам TikTok, реклама не должна быть сексуально провокационной, содержать сексуальные намеки или акцентировать внимание на отдельных частях тела, таких как ягодицы. Однако TikTok и Meta не всегда применяют эти правила к секс-чатботам. Неясно, почему стартапам, занимающимся ИИ, удалось размещать рекламу, в то время как Meta и TikTok исторически агрессивно принуждали к соблюдению своих правил реальных людей. Instagram и Facebook на протяжении многих лет в ходе серии рейдов блокировали секс-работников и секс-педагогов, а приложения запрещали фотографии кормления грудью и шрамов от рака груди, пока люди не выступили против этих правил с помощью хештегов, таких как #freethenipple. Instagram по-прежнему запрещает обнаженность, но сделал исключения из этих правил для фотографий, изображающих «кормление грудью, роды и моменты после родов, ситуации, связанные со здоровьем», а также акты протеста. Некоторые секс-работники говорят, что даже когда они пытались соблюдать правила Meta об обнаженности, их по-прежнему наказывали на платформе, в то время как знаменитости публикуют сексуализированный контент по своему усмотрению. Meta применила свои строгие правила к рекламе, в том числе к рекламе интимных товаров, порнографических сайтов и сайта Ashley Madison — сервиса для людей, ищущих любовных связей на стороне. Meta даже навсегда заблокировала аккаунт в Instagram одной из крупнейших в мире порноплатформ — Pornhub. В январе Наблюдательный совет по политикам Meta заявил, что правила компании в отношении обнаженного тела являются запутанными, что приводит к ошибкам, и рекомендовал Meta их пересмотреть. В то время Meta обязалась «разработать соответствующую политику», но до сих пор не объявила о каких-либо изменениях. Meta является вторым по величине продавцом рекламных площадей в интернете в стране после Google. 35 компаний, создающих чат-ботов с откровенным содержанием, не являются крупными или известными технологическими компаниями. Многие из них заявляют, что базируются за рубежом, в таких странах, как Беларусь и Китай. Некоторые не раскрывают местонахождение и предоставляют лишь минимальную информацию, кроме адреса электронной почты. Приложения, как правило, можно бесплатно скачать из магазинов приложений Google или Apple; в них доступны встроенные покупки и подписки. Некоторые из них помечены как имеющие возрастные ограничения, в то время как другие классифицируются как подходящие для подростков. Сама идея не является особенно новой: сочетание компьютерных чат-ботов с романтикой или сексуальной привлекательностью. Некоторые приложения рекламируют возможности искусственного интеллекта, но неясно, насколько каждое из них использует новейшие достижения в этой области, если вообще использует. NBC News опробовало три таких приложения, и каждое из них немного отличалось от других. Одно из них позволяло пользователям создавать изображения на основе текстовых запросов — в том числе изображения категории «NSFW», как утверждалось в рекламе. Во втором случае не требовалось набирать текст — нужно было лишь переходить по ссылкам по заранее написанным сюжетам, которые быстро приобретали откровенный характер. Третий проект, Replika, был сосредоточен на создании одного настраиваемого персонажа, который мог стать другом или чем-то большим. В этом году Replika привлекла внимание СМИ после того, как некоторые из её ботов перестали участвовать в эротических ролевых играх, чем разочаровали часть клиентов. Во многих рекламных объявлениях в Instagram и Facebook используются сексуальные образы, которые не отличаются особой тонкостью. В одной из реклам с аккаунта «Producer Mobile» женский цифровой персонаж в нижнем белье держит десерт и спрашивает зрителя: «Хочешь попробовать мой пирог?» Реклама содержит ссылку на приложение, разработанное игровой компанией Amrita Studio. Amrita Studio, имеющая офисы на Кипре и в Украине, не ответила сразу на запрос о комментарии. Innovative Connecting, компания-разработчик программного обеспечения из Сингапура, по состоянию на понедельник разместила в Meta около 160 различных рекламных объявлений для Mimico — приложения с чат-ботом на базе ИИ. В некоторых объявлениях над изображением виртуального персонажа с большой грудью и детским лицом фигурировала фраза «Создай девушку NSFW». Innovative Connecting, также известная под названием Matrix Mobile, не ответила сразу на запрос о комментарии. Реакция пользователей в сети на многие из этих рекламных объявлений порой бывает негативной; некоторые пользователи Instagram отмечали, что реклама выглядит «очень дистопично» и «просто печально». Несколько человек написали, что некоторые из сексуализированных персонажей, сгенерированных ИИ, выглядят как дети. Полли Родригес, генеральный директор компании Unbound, производителя интимных товаров, заявила, что её компания столкнулась с препятствиями при размещении рекламы в Meta из-за политики этой компании. По её словам, появление рекламы с участием ИИ-чат-ботов свидетельствует о непоследовательном применении правил и двойных стандартах. «Они не решают основную проблему: почему эти объявления вообще проходят модерацию?» — сказала Родригес. Родригес является советником организации Center for Intimacy Justice, которая обращалась к Федеральной торговой комиссии (FTC) с просьбой расследовать подход Meta к рекламе для взрослых. FTC сообщила, что получила жалобу, но отказалась давать дополнительные комментарии. Неясно, когда реклама чат-ботов с откровенным сексуальным содержанием начала массово появляться в Instagram, Facebook и TikTok, но, судя по всему, это явление относительно новое. Многие из страниц в Facebook, использовавшихся для размещения этой рекламы, были созданы в течение последних 12 месяцев, как следует из информации о прозрачности, публикуемой на этих страницах.