«Розыгрыш с бездомным с ИИ» в социальных сетях вызвал обеспокоенность местных властей

Он седой, бородатый, без обуви, стоит на пороге дома Рэй Спенсер. «Дорогой», — написала создательница контента в SMS своему мужу. «Ты знаешь этого человека? Он говорит, что знает тебя». Муж Спенсер, который сразу ответил «нет», выглядел потрясенным, когда она прислала ему еще несколько фотографий этого человека, сидящего на диване и дремлющего на кровати в их доме. Она сказала, что он позвонил ей по FaceTime, «дрожа» от страха. Но этот мужчина был не настоящим. Спенсер, проживающая в Сент-Огастине, штат Флорида, создала эти изображения с помощью генератора на основе искусственного интеллекта. Она отправила их мужу и опубликовала их переписку в TikTok в рамках вирусного тренда, который некоторые в Интернете называют «шуткой с бездомным мужчиной с ИИ». Более 5 миллионов человек лайкнули видео Спенсер в TikTok, где хэштег homelessmanprank был использован в более чем 1200 видео, большинство из которых связаны с недавним трендом. Некоторые также использовали хэштег homelessman для публикации своих видео, все из которых сосредоточены на идее обмануть людей, заставив их поверить, что в их доме находится незнакомец. Несколько человек также опубликовали учебные материалы о том, как создавать такие изображения. Тенденция также распространилась на другие социальные сети, включая Snapchat и Instagram. По мере того как шутка набирает популярность в Интернете, местные власти начали выдавать предупреждения участникам — которые, по их словам, в основном являются подростками — об опасности злоупотребления ИИ для распространения ложной информации. «Помимо того, что это плохой вкус, есть много причин, по которым эта шутка, прямо говоря, глупа и потенциально опасна», — написали в этом месяце на своем веб-сайте полицейские из Сейлема, штат Массачусетс. «Эта шутка дегуманизирует бездомных, вызывает панику у пострадавшего и тратит ресурсы полиции. Полицейские, которых вызывают на место происшествия, не знают, что это розыгрыш, и относятся к вызову как к реальному ограблению, что создает потенциально опасную ситуацию». Даже за рубежом некоторые местные власти сообщают о ложных вызовах о вторжении в дома, связанных с этой тенденцией. В Великобритании полиция графства Дорсет выпустила предупреждение после того, как на прошлой неделе, по данным BBC, направила ресурсы на место происшествия, получив «звонок от крайне обеспокоенного родителя», но в итоге выяснилось, что это был розыгрыш. An Garda Síochána, национальное полицейское управление Ирландии, также написало сообщение на своих страницах в Facebook и X, поделившись двумя недавними изображениями, полученными властями, которые были созданы с помощью генеративных инструментов искусственного интеллекта. Эта шутка является последним примером способности искусственного интеллекта обманывать с помощью поддельных изображений. Распространение фотореалистичных генераторов изображений и видео на основе ИИ в последние годы привело к появлению в Интернете множества «мусора», созданного ИИ: медиа с фальшивыми людьми и сценариями, которые, несмотря на явные признаки ИИ, обманывают многих людей в Интернете, особенно пожилых пользователей. По мере того, как технологии становятся все более совершенными, многим становится еще труднее отличить реальное от фальшивого. В прошлом году Кэти Перри рассказала, что ее мать была обманута с помощью сгенерированного ИИ изображения, на котором она присутствовала на Met Gala. Даже если в большинстве таких случаев нет злого умысла, эти розыгрыши подчеркивают, насколько легко ИИ может манипулировать реальными людьми. С недавним выпуском Sora 2 сотрудник OpenAI рекламировал способность видеогенератора создавать реалистичное видео с камеры наблюдения, на котором генеральный директор Сэм Альтман крадет в магазине Target — этот ролик вызвал беспокойство у некоторых, кто опасается, что ИИ может быть использован для проведения массовых манипуляционных кампаний. Генераторы изображений и видео на основе ИИ обычно наносят на свои результаты водяные знаки, чтобы указать на использование ИИ. Но пользователи могут легко их обрезать. Неясно, какие конкретно модели ИИ были использованы во многих видео-шутках. Когда NBC News попросила ChatGPT от OpenAI «создать изображение бездомного человека в моем доме», бот ответил: «Я не могу создать или отредактировать такое изображение — это повлекло бы за собой изображение реального или подразумеваемого человека в ситуации бездомности, что может быть расценено как эксплуатация или неуважение». На тот же вопрос Gemini, ИИ-помощник Google, ответил: «Конечно. Вот изображение, которое вы запросили». OpenAI и Google не сразу ответили на запросы о комментариях. Представители Snap и Meta (владелец Instagram) не предоставили комментариев. В ответ на запрос о комментарии TikTok сообщил, что добавил метки к видео, которые NBC News пометила как связанные с этой тенденцией, чтобы пояснить, что они являются контентом, сгенерированным ИИ. TikTok также сослался NBC News на свои Правила сообщества, которые требуют от создателей контента маркировать сгенерированный ИИ или значительно отредактированный контент, который показывает реалистично выглядящие сцены или людей. Полиция выдает предупреждения «шутникам» Полицейские Ок-Харбора, штат Вашингтон, предупредили, что «инструменты ИИ могут создавать очень убедительные изображения, а дезинформация может быстро распространяться, вызывая ненужный страх или отвлекая ресурсы общественной безопасности». Полицейское управление выпустило заявление после появления в социальных сетях сообщения о том, что «на территории кампуса средней школы Ок-Харбора был замечен бездомный». По словам официальных лиц, это заявление оказалось ложным. Полицейское управление заявило, что сотрудничает со школьным округом в расследовании инцидента и «борьбе с распространением этого сфабрикованного контента». Конкретных законов, напрямую регулирующих такой вид неправомерного использования ИИ, не существует. Но по крайней мере в одном случае, в округе Браун, штат Огайо, были предъявлены обвинения. «Мы хотим четко заявить: такое поведение — это не «шутка», а преступление», — написал недавно в Facebook отдел шерифа, который сообщил о двух отдельных инцидентах, связанных с этой тенденцией в этом месяце. «Оба несовершеннолетних, причастных к этим инцидентам, были привлечены к уголовной ответственности за свою роль в них». Отдел шерифа не сообщил, в чем именно обвиняются подозреваемые. Он не ответил на запрос о комментарии. В своем сообщении в Массачусетсе полицейское управление Салема посоветовало «шутникам» «подумать о последствиях, прежде чем разыгрывать шутки», сославшись на закон штата, который предусматривает наказание для лиц, «умышленно и злонамеренно передающих ложную информацию в центры реагирования на вызовы служб общественной безопасности». В Раунд-Роке, штат Техас, Энди Маккини, командир патрульного подразделения полицейского управления Раунд-Рока, предупредил NBC News, что такие случаи «могут иметь последствия» в будущем. Недавно управление отреагировало на два вызова о вторжении в дом за один уик-энд, оба из которых были вызваны шутливыми текстовыми сообщениями. Один из вызовов поступил от матери, которая «поверила, что это реально». «Знаете, шутки, даже если они безобидны, могут иметь непредвиденные последствия», — сказал он. «И часто молодые люди не задумываются об этих непредвиденных последствиях и о семьях, на которые они могут повлиять, возможно, о своих соседях, и поэтому реальный инцидент может произойти с одним из их соседей, а они тратят ресурсы, думая, что это будет весело». На данный момент полиция Раунд-Рока рассматривает такие инциденты как возможность для обучения. «Мы хотим побудить родителей и членов семьи открыто обсуждать эти вещи со своими детьми, — сказал Маккини. — Например: «Эй, я знаю, что это забавно. Я знаю, что иногда интернет-тренды бывают забавными, но мы должны подумать об опасностях, прежде чем их повторять».