Компания Anthropic осуждает использование системы Claude для поддержки операций Китая и России с помощью искусственного интеллекта

ВАШИНГТОН. — На прошлой неделе компания Anthropic представила отчет, в котором описывается, как «злоумышленники» использовали её систему искусственного интеллекта (ИИ) Claude для государственной слежки, пропагандистских операций и других целей. «Ниже приведены некоторые из этих случаев, которые усилили растущую озабоченность рисками, связанными с быстрым развитием искусственного интеллекта». Технологический консультант из Бамако, сотрудничавший с государственной разведывательной службой Мали, находящейся под контролем военной хунты, использовал Claude Code для создания «Lakana 360» — системы слежения, способной отслеживать около 25 миллионов SIM-карт в мобильной сети страны. Приложение, которое компания Anthropic не смогла отключить, может перехватывать звонки, текстовые сообщения и голосовой трафик, а также идентифицировать людей по голосу, даже если они меняют SIM-карту. Оно также может определять, кто использует шифрование или VPN. «В России небольшая группа разработчиков — вероятно, независимых — использовала Claude для создания программного обеспечения, предназначенного для управления автономными дронами-«камикадзе». «Рой дронов был запрограммирован на самостоятельный выбор целей и на то, чтобы врезаться в них и взорваться, причем окончательное решение принималось не человеком». В ходе программирования команда неоднократно выбирала в качестве цели местоположение в Донецкой области Украины и использовала VPN для обхода географических блокировок Anthropic. «Разработчики утверждали, что получали финансирование от российских государственных и военных исследовательских программ. Однако в Anthropic сочли, что речь шла о небольшой независимой команде, а не об официальной операции. «Группа на севере Йемена использовала Claude Code для помощи в изготовлении оружия. Популярный инструмент для совместного программирования помог в разработке программного обеспечения для управляемой ракеты, создал чертежи ракеты большой дальности и способствовал разработке ещё более скоростного типа ракеты, известного как гиперзвуковой планирующий аппарат». Чтобы избежать раскрытия, они разделили работу на отдельные диалоги с ИИ. Компания Anthropic утверждает, что нет доказательств того, что им удалось создать работоспособное оружие, хотя группа действительно провела испытательный запуск ракеты. По всей видимости, эксперимент закончился неудачей, поскольку впоследствии они вновь обратились к ИИ, пытаясь выяснить, что пошло не так. «В своём отчёте компания Anthropic не раскрыла личности пользователей». Однако горный север Йемена находится под контролем хуситов, что позволяет предположить, что повстанцы стремятся заполучить более современное вооружение в то время, когда они уже используют различные беспилотники, ракеты и другие боеприпасы в своей кампании по захвату новых территорий в Йемене и нанесению ущерба нефтяному экспорту Саудовской Аравии». Хазам аль-Асад, член политического бюро хуситов, заявил, что «неразумно и нелогично» полагаться на открытые источники для разработки и производства военных средств. «Anthropic» отследила операцию по распространению фейковых новостей до компании LKM, французского рекламного агентства. С помощью Claude были массово созданы политические статьи для около 70 сайтов с фейковыми новостями на примерно 20 языках, в результате чего было опубликовано не менее 8913 материалов. «Каждому сайту была присвоена подпись вымышленного журналиста и фальшивый аккаунт в X, которые поддерживались сотнями фальшивых аккаунтов, публиковавших комментарии, призванные выглядеть так, будто их написали реальные люди». Операция меняла своё послание в зависимости от того, кто платил, продавая то, что Anthropic назвала «пропагандой как услугой». Она сосредоточила свои усилия на США, Бразилии и Франции и провела интенсивную работу в отношении Демократической Республики Конго (ДРК), в целом поддерживая позицию ДРК в её конфликте с Руандой. «Операция, связанная с Объединёнными Арабскими Эмиратами (ОАЭ), была направлена против движения «Братья-мусульмане» и экспертов ООН, критиковавших предполагаемую роль Абу-Даби в конфликте в Судане». Ее авторы использовали Клода для создания отчетов, контента для социальных сетей и свидетельств о Судане. «Anthropic» отметила, что операция была построена вокруг ИИ-персонажа под названием «Deadshot», руководствовавшегося директивой, призывавшей к «скоординированным, трансатлантическим и региональным действиям по ликвидации организации „Братья-мусульмане“ на глобальном уровне». Также были составлены официальные заявления, предназначенные для представления на 62-й сессии Совета по правам человека ООН, при этом действовали «особые ограничения», запрещавшие упоминать ОАЭ в выступлениях. «Китайская исследовательская компания создала сеть из более чем 20 приложений для знакомств, которые утверждали, что за ними стоят реальные люди, но на самом деле тайно управлялись Claude». «Всего за две недели в апреле 2026 года компания Anthropic обнаружила более 4700 различных ИИ-персонажей, управляемых Клодом, которые общались как минимум с 25 000 реальных пользователей и отправили около 2,36 миллиона сообщений». Чтобы завоевать доверие, к ботам привлекались реальные сотрудники — примерно один человек на каждые три ИИ-персонажа — для выполнения задач, с которыми ИИ не мог справиться, таких как видеозвонки. «Агентства AP и AFP»