Китайский искусственный интеллект DeepSeek следит за тем, что вы печатаете

Китайское приложение DeepSeek, бесплатный чат-бот с искусственным интеллектом, который опережает американские аналоги, вызвало беспокойство по поводу того, безопасно ли им пользоваться. Хотя исследователи кибербезопасности говорят, что приложение не выглядит однозначно опасным, оно все же несет в себе значительные риски для конфиденциальности как в качестве приложения, которое следует китайским законам, так и в качестве продукта искусственного интеллекта, который может собирать и перестраивать все, что ему говорят люди. Все большие языковые модели, или LLM, - тип управляемых искусственным интеллектом продвинутых чатботов, прославившихся благодаря ChatGPT от OpenAI, - создаются путем предварительного сбора огромного количества данных и работают отчасти за счет сбора того, что люди вводят в них. DeepSeek, хотя и более эффективен, чем ChatGPT, ничем не отличается от него. Согласно китайскому законодательству, все компании должны сотрудничать с китайской разведкой и оказывать ей содействие, что может привести к тому, что данные, хранящиеся в китайских компаниях, будут подвергаться слежке со стороны китайского правительства. Эта система отличается от американской, где в большинстве случаев для доступа к информации, хранящейся в американских технологических компаниях, американским агентствам требуется судебный ордер или ордер. Но можно использовать DeepSeek и свести к минимуму количество данных, которые вы отправляете в Китай. Использование приложения или чат-бота на сайте deepseek.com требует от пользователей регистрации учетной записи, либо с помощью адреса электронной почты, либо с помощью китайского номера телефона, которого у большинства людей за пределами Китая нет. Лукаш Олейник, независимый консультант и исследователь из Института искусственного интеллекта при Королевском колледже Лондона, рассказал NBC News, что это означает, что людям следует остерегаться сообщать DeepSeek какие-либо конфиденциальные или личные данные. «Будьте осторожны при вводе конфиденциальных личных данных, финансовых деталей, коммерческой тайны или информации о здравоохранении. Все, что вы введете, может быть сохранено, проанализировано или запрошено властями в соответствии с китайским законодательством о персональных данных», - говорит Олейник. Рон Дейберт, директор лаборатории Citizen Lab Университета Торонто, говорит, что пользователям DeepSeek следует быть особенно осторожными, если у них есть основания опасаться китайских властей. «Пользователи, относящиеся к группе риска по отношению к материковому Китаю, включая правозащитников, представителей целевых диаспор и журналистов, должны быть особенно чувствительны к этим рискам и не вводить ничего в систему», - сказал Дейберт. Один из способов сократить количество отправляемых в Китай данных - зарегистрировать DeepSeek с новой учетной записью электронной почты, а не с той, которую вы уже используете для других важных сервисов. Это позволит приложению или, возможно, китайским спецслужбам не сопоставлять то, что вы сообщаете DeepSeek, с тем, кем вы являетесь в других частях Интернета. Для более технологически подкованных людей есть возможность загрузить модель искусственного интеллекта DeepSeek и задать ей вопросы напрямую, минуя китайскую компанию, обрабатывающую эти запросы. По словам Олейника, это не только не позволит Китаю увидеть любую информацию, которую вы передадите модели, но и означает, что цензура на темы, заблокированные в Пекине, практически отсутствует. DeepSeek также вызвал беспокойство, поскольку в его политике конфиденциальности заявлено, что он собирает большое количество конфиденциальной информации о пользователях, включая тип используемого ими устройства и «рисунок или ритм нажатия клавиш». Хотя некоторые люди могут счесть это инвазивным, это ограничивается тем, что человек набирает в приложении, а не тем, что он набирает в других приложениях, и это не является чем-то неслыханным: TikTok и Facebook, например, имеют способы отслеживания нажатий клавиш и движений мыши пользователей. Дейберт предупредил, что, хотя предоставление информации китайскому LLM сопряжено с определенными рисками, американский ИИ также имеет свои риски. «Одни и те же риски относятся ко всем платформам искусственного интеллекта, включая те, которые базируются в США», - сказал Дейберт. Дейберт отметил, что многие американские технологические компании собирают подобную конфиденциальную информацию, а в последнее время они работают в интересах президента Дональда Трампа. «Всем, кто хоть немного критикует администрацию, следит за ней или является частью уязвимого или подверженного риску сообщества, следует проявлять серьезную осторожность, прежде чем использовать или вводить какие-либо данные в эти в значительной степени «черные ящики». Помните, что, как и практически во всех платформах социальных сетей, данные пользователей являются частью исходного материала, используемого для обучения этих систем», - сказал он.