Человек, представившийся «информатором» компании по доставке еды, обманул интернет с помощью искусственного интеллекта

Заявления анонимного пользователя Reddit о мошенничестве и краже со стороны неназванной компании по доставке еды, по всей видимости, были искусственной уловкой, основанной на искусственном интеллекте, которая распространилась по интернету, опередив попытки ее опровергнуть. Вирусный пост, впервые опубликованный в пятницу, вызвал резкие опровержения со стороны крупных приложений по доставке, которые в прошлом подвергались тщательной проверке на предмет эксплуатации работников. Он набрал более 87 000 голосов «за» на Reddit и миллионы просмотров на других платформах социальных сетей, где циркулировали скриншоты, прежде чем был удален модераторами Reddit во вторник вечером. За кулисами, пока журналисты пытались подтвердить эти утверждения, уловка продолжалась — по-прежнему с помощью ИИ. На Reddit комментарии в ответ на пост в целом признавали эти утверждения правдивыми. «Как человек, я считаю, что компании, которые пытаются взимать с разных людей разные суммы за одни и те же услуги, не должны больше иметь право на деятельность», — говорится в одном из комментариев, который получил более 1800 лайков. «Это похоже на массовый коллективный иск, если все сделать правильно, с высокими шансами на победу водителей», — написал другой комментатор. Анонимный пользователь впервые опубликовал пост в субсообществе r confession на прошлой неделе, заявив, что раскрывает секреты своей компании, несмотря на «массивное соглашение о неразглашении», потому что «не может спать по ночам, зная, что помог создать эту машину». Пользователь, не назвавший название компании, утверждал, что его работодатель использует прогнозное моделирование для снижения базовой заработной платы водителей на основе привычек клиентов давать чаевые, а также что у него есть скрытый «индекс отчаяния» для водителей, который отслеживает, насколько они «отчаянны», исходя из их готовности принимать низкооплачиваемые заказы. Пользователь Reddit утверждал, что алгоритм сохраняет более высокооплачиваемые заказы для случайных водителей, чтобы побудить их использовать приложение. По мере того как пост набирал популярность в Интернете, его достоверность также стала подвергаться сомнению. NBC News связалась с человеком, стоящим за аккаунтом Reddit, в пятницу по электронной почте и через Signal. Когда автор поста попросил подтвердить личность, репортер NBC News прислала фотографию своего служебного бейджа. В течение нескольких дней другие новостные агентства сообщили, что автор поста, пытаясь доказать свою принадлежность к компании, отправил журналистам то, что выглядело как бейдж сотрудника Uber Eats. Изображение бейджа, отправленного им, казалось почти точной копией фотографии, которую автор поста получил от NBC News, но на бейдже были изменены некоторые детали, такие как логотип Uber Eats на фоне, соответствующем цветам компании. The Verge и Platformer, которые сообщили, что получили поддельную фотографию бейджа, пропустили ее через Google Gemini и обнаружили водяной знак SynthID, идентифицирующий ее как сгенерированную или отредактированную искусственным интеллектом Google. Представитель Uber подтвердил NBC News, что бейджей сотрудников Uber Eats не существует и что компания не делает того, о чем говорится в посте на Reddit или в каких-либо документах, опубликованных пользователем. Когда NBC News попыталась связаться с пользователем Reddit, его учетные записи в Signal и электронной почте, по-видимому, были удалены. Пользователь не ответил на последующее сообщение в Reddit. Эндрю Макдональд, президент и главный операционный директор Uber, написал в заявлении на X, что пост «определенно не о нас. Я подозреваю, что он полностью выдуман. Не верьте всему, что читаете в Интернете». Генеральный директор и соучредитель DoorDash Тони Сюй также осудил практики, о которых говорится в посте. «Это не DoorDash, и я уволил бы любого, кто продвигал или терпел культуру, описанную в этом посте на Reddit», — написал Сюй на X. «Мы не идеальны ни в коем случае, но мы каждый день работаем над тем, чтобы сделать нашу платформу лучше для всех, кто ее использует. То, что здесь описано, возмутительно, и, если это правда, тот, кто действует таким образом, должен стыдиться». Основатель Platformer Кейси Ньютон рассказал NBC News, что пользователь Reddit предоставил ему 18-страничный документ, который, по его утверждению, является внутренним документом Uber. Он включал в себя графики, диаграммы и математические формулы, которые почти обманули его. Но затем, по словам Ньютона, он заметил особенности в форматировании, языке и даже в том, как он в одиночку подтверждал все различные утверждения автора поста. «Это был своего рода документ злодея из мультфильма о том, как можно эксплуатировать человека до абсолютного максимума», — сказал Ньютон. Вскоре, по его словам, все признаки указывали на то, что весь пост на Reddit был подделкой. Для Ньютона эта история стала напоминанием о том, как в эпоху все более совершенного и доступного генеративного ИИ любой пользователь Интернета может легко и быстро обмануть даже самых взыскательных потребителей контента. Будь то удостоверение личности сотрудника, которое когда-то требовало умелого использования Photoshop, или объемный технический документ, подделка которого заняла бы часы или дни, большая часть визуальных доказательств, которым раньше легко верили, теперь должна подвергаться более тщательной проверке. «Очень жаль, что этот пост набрал миллионы просмотров, и я думаю, что есть вероятность, что миллионы людей теперь верят, что существует компания по доставке, которая делает все эти вещи», — сказал Ньютон. По его словам, люди особенно склонны верить и перепостивать контент, вызывающий эмоциональные реакции, такие как возмущение. Кроме того, существует сила подтверждающего смещения. В последние годы службы доставки еды и продуктов, такие как DoorDash и Instacart, сталкивались с обвинениями в эксплуатации, когда выяснилось, что они использовали чаевые для субсидирования части базовой заработной платы своих работников. Аналогичным образом, сервисы по совместным поездкам, такие как Uber и Lyft, столкнулись с множеством судебных исков за то, что классифицировали водителей как независимых подрядчиков, а не как сотрудников, что позволяло компаниям не выплачивать минимальную заработную плату, сверхурочные и другие льготы. В 2023 году Uber и Lyft выплатили в общей сложности 328 миллионов долл., чтобы урегулировать обвинения в том, что они незаконно удерживали заработную плату водителей и не предоставляли обязательный оплачиваемый отпуск по болезни в штате Нью-Йорк. Ньютон сказал, что посты, подобные тому, который стал вирусным на этой неделе, как правило, «неустоимы», потому что они подтверждают то, что многие уже думают об этих компаниях. «Мы ищем что-то, что нас шокирует, — сказал он. — И такой пост как раз заполняет эту пустоту и говорит: «Эй, я подарую вам отличное субботнее утро, и теперь вы можете быть очень, очень злыми на свое приложение по доставке еды»».