Сенаторы требуют от компаний, занимающихся искусственным интеллектом, ответов о том, как они борются с мошенниками

Сенаторы Мэгги Хассан (Демократическая партия, Нью-Гэмпшир) и Джош Хоули (Республиканская партия, Миссури) в четверг утром направили письма ведущим американским компаниям, занимающимся искусственным интеллектом, с требованием предоставить информацию о том, как они борются с мошенничеством с использованием ИИ. В письмах, отправленных компаниям Anthropic, Google, Meta, Microsoft, OpenAI, Perplexity и xAI, содержится просьба поделиться подробностями о своих усилиях по предотвращению использования их услуг мошенниками. Среди прочего в письмах запрашивается информация о системах компаний по отслеживанию потенциальных мошенничеств или случаев мошенничества с использованием их платформ, мерах по аутентификации пользователей и о том, как компании уже сотрудничают с правительством в борьбе с мошенничеством. «С развитием ИИ мошенничество будет становиться все более изощренным, частым и разрушительным», — написали сенаторы в письме. «На ранних этапах мошенничества преступники могут использовать генеративный ИИ для быстрого выявления и сбора информации о своих целях, что позволяет им создавать индивидуальные схемы мошенничества». «Обладая такой информацией, как адреса, номера счетов и даты рождения, злоумышленники могут более реалистично выдавать себя за банк жертвы, государственное учреждение или даже члена ее семьи, пытаясь получить контроль над счетами или выманить мошеннические платежи», — продолжают они. Многие эксперты считают, что генеративный ИИ способствует новой волне мошенничества, поскольку бесплатные инструменты ИИ позволяют неспециалистам создавать больше и более качественных поддельных документов, телефонных звонков и веб-сайтов, чем когда-либо прежде. Мошенничество с использованием искусственного интеллекта стремительно растет в различных сферах, от деловых расходов и судебной системы до социальных сетей. До наступления эры искусственного интеллекта мошеннику приходилось нанимать веб-разработчика или обладать техническими навыками, необходимыми для создания мошеннического веб-сайта, имитирующего подлинный, заслуживающий доверия сайт. Сейчас многие потребительские инструменты искусственного интеллекта позволяют пользователям создавать реалистичные интерактивные веб-сайты за считанные минуты, используя простые инструкции на английском языке. Хотя эти мошенничества часто направлены на пожилых американцев, которые ежегодно теряют несколько миллиардов долларов, более обширный отчет Deloitte, опубликованный в прошлом году, показал, что генеративный искусственный интеллект может привести к тому, что убытки от мошенничества в США к 2027 году достигнут 40 миллиардов долл. Сенаторы также попросили компании подробно описать свои стратегии и инвестиции в области предотвращения мошенничества и предоставить информацию о мерах, которые компании принимают для предотвращения утечки конфиденциальной информации о клиентах. Сенаторы попросили компании предоставить ответы до 14 января. Хассан сделала мошенничество одним из приоритетов своей работы в качестве высшего должностного лица от Демократической партии в Объединенном экономическом комитете, который объединяет членов Палаты представителей и Сената для решения экономических вопросов. В конце сентября Хоули, который в последние месяцы сосредоточился на политике в области ИИ, представил новый законопроект, который классифицирует системы ИИ как продукты, открывая компании, занимающиеся ИИ, для исков о возмещении ущерба от пользователей, когда их системы ИИ причиняют вред. Письмо, отправленное в четверг, дополняет растущие усилия федеральных властей, направленные на предотвращение мошенничества с использованием ИИ. Законопроект, недавно предложенный представителями Тедом Лиу (Демократическая партия, Калифорния) и Нилом Данном (Республиканская партия, Флорида), предусматривает обновление наказаний за мошенничество и уголовных определений с учетом развития искусственного интеллекта.