Они увидели видео с туристической канатной дорогой, отправились на нее, и оказалось, что это изобретение ИИ.

Все не так, как кажется. Возможно, это банальная фраза, но она как нельзя лучше подходит для того, чтобы подытожить предупреждение, к которому должен прислушаться каждый, кто при принятии решений полагается на контент, размещенный в социальных сетях. И хотя это может показаться очевидным, случаи обмана происходят ежедневно. В данном случае малазийская пара увидела в социальных сетях видеоролик о туристическом направлении, которое показалось им привлекательным, с волнением села в машину и проехала четыре часа - около 300 километров - только для того, чтобы приехать и ничего не найти: то, что они увидели, было сгенерировано искусственным интеллектом. "Новость стала вирусной, потому что сотрудница отеля в деревне Куак Хулу в районе Перак, где предположительно находился туристический объект, написала в социальных сетях о том, что с ней произошло: в заведение заехала пара из двух взрослых людей и спрашивала о канатной дороге, о которой они никогда в жизни не слышали. Хотя туристы настаивали, сотруднице пришлось объяснить им, что это очень тихая деревня, где не на что смотреть, и что контент, который они видели в социальных сетях, скорее всего, выдумка. «Видео было размещено в конце июня, и хотя оно было удалено из социальных сетей после нескольких сообщений пользователей, обвинивших его в недостоверном контенте, оно показывало, как журналист канала »TV Rakyat" представлял канатную дорогу Kuak Skyride. На видео он путешествует по горам и природным ландшафтам. Он также брал интервью у различных групп туристов, с которыми говорил о том, что они думают о достопримечательности. Для неподготовленного человека видео могло показаться реальным. Возмущение пары было полным. Женщина спросила у сотрудника отеля, почему он так поступает с людьми, и пригрозила написать заявление на журналиста, снявшего это видео. Пока, конечно, она не поняла, что заявлять не на кого: не было ни канатной дороги, ни журналиста. Смущенные, они оба сели в машину и вернулись домой, в точности олицетворяя риски - сегодня, если хотите, невинные - искусственного интеллекта для людей, недостаточно внимательных к тому, что они видят. Сесилия Данези, юрист и руководитель магистерской программы «Этическое управление искусственным интеллектом» в Папском университете Саламанки, объяснила LA NACION, что обман в цифровую эпоху существовал еще до появления сверхреалистичных движков для создания видео. Проблема в том, что сейчас они становятся все более изощренными и разрабатываются на серверах в странах, где нет жесткого регулирования. "Этот случай попал в заголовки газет по всему миру, особенно в малазийских СМИ, и привел к обострению разговора, который уже идет во всех странах. "В Аргентине, в частности, deepfakes - так называют видео, созданные с помощью искусственного интеллекта и имитирующие реальных людей или места - были в тренде во время последних выборов в законодательный орган города Буэнос-Айрес. В X либертарианские аккаунты распространили фальшивое видео, в котором Маурисио Макри объявил о снятии кандидатуры Лоспенатто и призвал людей голосовать за Мануэля Адорни. Беспокойство вызывает, прежде всего, искажение реальности", - сказал он. "Мы движемся к будущему, в котором видео уже не будет таким надежным. Лучший способ защитить себя от фальшивых новостей и дезинформации - оттачивать критическое мышление и всегда скептически относиться к контенту, который вы видите в сети", - говорит Фреди Вивас, инженер и профессор искусственного интеллекта в Университете Сан-Андрес. В качестве рекомендации он пояснил, что сегодня подавляющее большинство видео с глубокой подделкой, как правило, имеют очень заметные следы или детали. Например, на лицах иногда черты размыты или не согласованы. "Эффект от таких глубоких подделок сегодня скорее анекдотический, чем какой-либо другой. Но их последствия все чаще материализуются: сегодня это была поездка, а что будет завтра? Фернанда Вегетти, социолог и политический консультант, говорит о влиянии на демократию: "Предполагать, что использование ИИ само по себе может определить ход выборов, все равно что думать, будто ветерок может изменить течение реки. ИИ вступает в игру с другими элементами: контекстуальными, партизанскими, доверительными, институциональными, территориальными, историческими". Действительно, наличие контента - это тревожный сигнал для лидеров, чтобы начать действовать. В Конгресс были внесены четыре законопроекта, которые в целом предлагают адаптировать правовую базу для решения проблемы дезинформации и цифрового манипулирования в эпоху искусственного интеллекта. «Мы столкнулись с правовым вакуумом, - говорит Сильвана Джудичи, автор одного из законопроектов, - который мы стремимся заполнить с помощью этой инициативы, цель которой - обеспечить, чтобы новые технологии не использовались для нарушения основных прав».