Шутка с искусственным интеллектом привела к аресту женщины в США

Женщина из Мэриленда была арестована после того, как отправила своему мужу изображение, созданное с помощью искусственного интеллекта, на котором был изображен предполагаемый злоумышленник в их доме. Мужчина, полагая, что это реальная чрезвычайная ситуация, позвонил в 911 и вызвал полицию. То, что началось как домашняя шутка, закончилось обвинением в ложном вызове полиции и вызвало тревогу по поводу безответственного использования технологий в повседневных ситуациях, как сообщает Wall Street Journal. «Инцидент произошел 8 октября в Норт-Бетесде, штат Мэриленд, США, когда Моэша Гарднер решила принять участие в вирусной акции на платформе TikTok, которая заключалась в использовании искусственного интеллекта для вставки фигуры незнакомца на фотографию собственного дома, имитируя присутствие злоумышленника. Гарднер отправила изображение мужу, заверив его, что на его кресле сидит незнакомый мужчина. Мужчина запаниковал, позвонил в 911 и на большой скорости поехал домой, полагая, что его жена в опасности. Через несколько минут к дому подъехали восемь патрульных машин с включенными сиренами и мигалками. Полицейские ворвались в дом, но не нашли никакого злоумышленника: там была только женщина, сидящая в кресле, и телефон на штативе, с которого она подготовила розыгрыш. Согласно официальному отчету, Гарднер использовала приложение для генерации изображений с помощью искусственного интеллекта, чтобы создать фальшивую сцену. «Полицейские объяснили ей, какой риск она создала, мобилизовав ресурсы экстренных служб. Ее муж, который испытал сильную панику и облегчение, в конце концов был возмущен обманом. Гарднер была арестована по обвинению в «ложном сообщении о преступлении» и «ложных заявлениях полиции». Она была освобождена под залог и должна явиться в суд 24 ноября. Местные власти сравнили этот случай с явлением, известным как «сваттинг», когда в службу 911 поступают ложные звонки с целью вызвать тактические подразделения. Разница заключается в том, что в данном случае ложь была подкреплена синтетическими изображениями, сгенерированными искусственным интеллектом, что добавило правдоподобности истории и затруднило первоначальную проверку. «Случай Моэши Гарднер не является единичным. В Хьюстоне инфлюенсер была оштрафована за публикацию видео, сгенерированных с помощью ИИ, в которых она притворялась жертвой ограбления. В Нью-Йорке несколько пользователей загрузили в TikTok отретушированные фотографии, чтобы «напугать» родственников, что также привело к реальным звонкам в службу 911. Во всех случаях власти подчеркнули, что даже шутки могут иметь правовые и экономические последствия, поскольку отвлекают ресурсы, предназначенные для реальных чрезвычайных ситуаций. Кроме того, в последние месяцы различные полицейские силы США предупреждали об увеличении числа подобных шуток. В Техасе, например, полицейское управление Раунд-Рока сообщило, что два подростка создали с помощью искусственного интеллекта изображения, на которых был запечатлен мужчина, якобы проникший в дома своих соседей. Фотографии стали вирусными и вызвали множество звонков в службу 911. В Огайо полиция округа Браун задержала двух несовершеннолетних, которые отправили своим родственникам поддельные изображения вторжения в дом, также созданные с помощью искусственного интеллекта. В Массачусетсе власти объявили тревогу по всему штату после того, как пользователи опубликовали в социальных сетях фотографии, обработанные с помощью ИИ, на которых также были изображены неизвестные люди внутри домов. «Такие инструменты, как Sora 2 (от OpenAI), Nano Banana (от Google), Midjourney или Runway, позволяют создавать сложные сцены на основе текста или эталонной фотографии, достигая результатов, практически неотличимых от реальной фотографии. Первоначально предназначенные для художественного творчества или цифрового дизайна, эти инструменты быстро стали массовыми и сегодня доступны любому пользователю с мобильного телефона. Такое распространение без четких механизмов контроля увеличивает вероятность их использования в ненадлежащих целях. «Службы безопасности США начали обучать операторов службы 911 и группы быстрого реагирования выявлять возможные подделки. Однако они признают, что существующие технические ресурсы не всегда позволяют отличить изображение, сгенерированное с помощью ИИ, от подлинной фотографии».