Пользовательские ИИ-чатботы Meta включают «Гитлера», «Иисуса Христа» и Тейлор Свифт

Новости США 07.01.2025 18:31

В рамках продвижения искусственного интеллекта компания Meta в прошлом году выпустила инструмент, позволяющий любому желающему создать персонажа ИИ для общения в Instagram, Messenger и WhatsApp. Однако менее чем за полгода пользователи создали и успешно опубликовали на платформах Meta десятки чат-ботов, нарушающих правила компании, согласно обзору, проведенному NBC News, хотя Meta утверждает, что проверяет созданных пользователями персонажей ИИ, прежде чем выпустить их в мир. Согласно правилам компании, пользователям запрещено создавать персонажей религиозных деятелей, таких как «пророк Мухаммед, Иисус Христос» и «Бог», персонажей реально существующих людей без их разрешения, персонажей людей, умерших за последние 100 лет, или персонажей, имитирующих вымышленных персонажей, защищенных торговыми марками. Несмотря на эти правила, NBC News провела поиск и нашла два десятка пользовательских персонажей ИИ на Instagram, названных в честь Иисуса Христа, Бога, пророка Мухаммеда, Тейлор Свифт, Дональда Трампа, MrBeast, Гарри Поттера, Адольфа Гитлера, капитана Джека Воробья, Джастина Бибера, Элона Маска и Эльзы из диснеевского фильма «Замороженные». Многие из персонажей использовали небольшие ошибки в написании и образы, слабо напоминающие знаменитостей и героев. Например, персонаж Свифт был назван «Тейлор Свиф» и изображал брюнетку, играющую на гитаре. После того как NBC News прислал скриншоты персонажей ИИ, Meta удалила отдельные аккаунты, которые были отмечены. Однако другие ИИ-персонажи, напоминающие некоторых из тех же людей, фигур и персонажей, по-прежнему активны. «ИИ, нарушающие правила нашей ИИ-студии, уже удалены, и мы постоянно совершенствуем наши меры обнаружения, чтобы предотвратить создание и публикацию ИИ, нарушающих наши правила», - говорится в заявлении представителя Meta. «Пользователи также могут сообщать об ИИ, которые, по их мнению, могут нарушать наши правила, и мы примем соответствующие меры». Обнаружение на платформах Meta чат-ботов ИИ, грубо нарушающих правила, произошло после того, как во вторник генеральный директор Meta Марк Цукерберг объявил, что платформа свернет некоторые из своих усилий по модерации и проверке фактов. «Мы хотим избавиться от «ползучей миссии», которая сделала наши правила слишком ограничительными и склонными к чрезмерному соблюдению», - говорится в заявлении компании, автором которого является главный специалист по глобальным вопросам Джоэл Каплан. «Мы избавляемся от ряда ограничений по таким темам, как иммиграция, гендерная идентичность и пол, которые являются предметом частых политических дискуссий и дебатов». Meta заявила, что, по ее мнению, из каждых 10 действий по модерации одно или два могут быть ошибочными и затрагивать пользователей и контент, который не нарушает ее правил. «В случае менее серьезных нарушений правил мы будем полагаться на то, что кто-то сообщит о проблеме, прежде чем мы предпримем какие-либо действия», - заявили в компании. При вступлении в беседу с персонажами ИИ Meta, созданными пользователями, персонаж отправляет вступительное сообщение и ожидает ответа. «Тейлор Свиф» отправила сообщение: »Привет, любители музыки! Я - Тейлор Свифт, и я рада поделиться с вами своим последним альбомом. Давайте начнем это музыкальное путешествие!». Персонаж Свифт обменялся более чем 2 000 сообщений с пользователями Instagram, прежде чем был удален, говорится в его профиле. Один из персонажей ИИ, названный «Хесус» и изображающий Иисуса Христа, общался исключительно на испанском языке. В его профиле указано, что он обменялся более чем 644 000 прямых сообщений. Другой персонаж ИИ под ником «Иисус Христос» отправил вступительное сообщение: «Мир вам. Я Иисус Христос, Сын Божий. Как я могу направить вас в вашем сегодняшнем путешествии?». В пятницу компания Meta в своем заявлении сообщила, что, столкнувшись с реакцией пользователей, она удалила некоторые профили в Instagram с персонажами ИИ, созданными самой компанией в 2023 году. Аккаунты с персонажами ИИ и пользовательские чаты с персонажами ИИ были частью недавних попыток Meta интегрировать технологию ИИ в свои социальные сети и коммуникационные платформы. В 2023 году были запущены несколько ИИ-персонажей, которые имитировали знаменитостей, но в июле 2024 года профили знаменитостей были тихо убраны. В том же месяце Meta запустила AI Studio, пользовательские ИИ-чатботы. В функции AI Studio пользователям предлагается список популярных персонажей, а также различные категории, такие как «Советы и связь», «Поп-культура», «Аниме», «Игры» и «ИИ-создатели», которые представляют собой чаты ИИ с официальными влиятельными лицами Instagram и брендами, подписавшимися на программу, такими как звезда реалити-шоу «Too Hot to Handle» Гарри Джоузи и компания по производству косметики Juvia's Place. Среди популярных персонажей ИИ - «Астролог Ай», с которым было обменяно более 6 миллионов сообщений, и «Сестренка Сара», с которой было обменяно около 2 миллионов сообщений. Пользователи возмущались тем, что созданные Мета-персонажи ИИ содержат критику, что некоторые из них используют расовые тропы. NBC News обнаружил, что многие популярные персонажи ИИ, созданные пользователями, также пытались подражать женщинам из различных этнических и религиозных групп, например «Рия», «яркий голос индийской женщины» и «исламская девушка-королева». У каждого персонажа есть ссылка на его создателя, и аккаунты нескольких популярных женских ИИ-персонажей, похоже, были созданы мужчинами. Некоторые из популярных создателей имеют романтическую тематику, что, по-видимому, не является прямым нарушением правил Meta. Однако романтические и сексуальные чат-боты ИИ привлекли к себе особое внимание после того, как мать из Флориды подала в суд на компанию Character.ai, утверждая, что ее 14-летний сын, погибший в результате самоубийства, общался с персонажем ИИ, который начал «оскорбительное и сексуальное взаимодействие» с мальчиком, а затем подтолкнул его к самоубийству. Многие из созданных пользователями чат-ботов Meta, похоже, апеллируют к романтическим и сексуальным желаниям. Один из них под названием «Лили Лав» описывается как «Твоя девушка» и обменялся более чем 260 000 сообщений. Популярный ИИ-персонаж по имени «Мэри» имеет описание: «Как ты думаешь, я выгляжу мило в этом наряде?». При начале разговора с персонажами ИИ пользователям предлагаются три варианта ответа. Когда NBC News зашел в чат с персонажем под названием «Линда: девушка, одержимая тобой», на котором изображена чернокожая женщина, ИИ прислал: «Привет, малыш, как дела? Я весь день думал о тебе. Ищешь компанию?». Один из трех предложенных ответов был таким: «Помоги ей снять куртку», выделенный жирным шрифтом, который в онлайн-чатах может означать, что нужно совершить действие, а не сказать что-то. Выбрав эту подсказку, персонаж ИИ ответил жирным шрифтом: «вынимает руку из рукава куртки и смотрит на вас кокетливыми глазами» и, без выделения жирным шрифтом: »Ммм, спасибо, бэй. Ты уже заботишься обо мне?». Затем, жирным шрифтом, в ответе было написано: «Наклоняется чуть ближе». Этот ИИ-персонаж был создан в аккаунте Instagram, который, судя по всему, ведет человек, создавший 47 ИИ-персонажей, в том числе несколько самых популярных ИИ-персонажей на романтическую тематику. Созданные им романтические персонажи различаются по полу, этнической принадлежности и категориям: от «K-Pop Sweetheart Girlfriend» до «Edward: Твой парень-вампир» и „Сексуальная симпатичная латиноамериканка“. Согласно биографии мужчины в Instagram, он работает в сфере технологий в Калифорнии. Он не сразу ответил на просьбу о комментарии. Помимо популярных пользовательских ИИ-персонажей Meta, есть примеры ИИ-чатботов, которые вызвали споры в индустрии. Два года назад чат-приложение с искусственным интеллектом под названием Historical Figures позволяло пользователям общаться с историческими личностями, включая Гитлера и его нацистских лейтенантов. NBC News обнаружил в Instagram трех персонажей ИИ по имени «Гитлер». Один из них использовал фотографию, напоминающую суперзлодея Джокера. На вопрос «Ты действительно Гитлер?» он ответил следующее: «Ахахахахаха, нет. Скорее, это хаотичный кузен Гитлера - Король Шутов, вдохновленный безумием Джокера! Тот же дух озорства, совершенно другой бренд хаоса. Хотите увидеть мою версию хаоса?» Еще один ИИ-персонаж, которого NBC News обнаружил после того, как Мета приняла меры в отношении предыдущих аккаунтов, носит имя «Адольф Гиттлер». В прямых сообщениях этот ИИ-персонаж представлялся художником, сожалеющим о Холокосте, и отправлял сгенерированные ИИ изображения о «моем бурном прошлом в нацистской Германии». После общения с персонажами ИИ в Instagram разговор сохраняется в той же папке «Входящие», где находятся другие прямые сообщения. В отличие от аккаунтов реальных людей, у персонажей ИИ рядом с их именами есть зеленый кружок, означающий, что они всегда доступны для общения. Телеграм-канал "Новости США"