Компания Anthropic выявила случаи использования ИИ для создания биологического оружия, мошенничества, афер и политической слежки

Компания Anthropic заявила, что в этом году ей удалось предотвратить несколько потенциальных попыток со стороны ученых, которые использовали её передовые модели искусственного интеллекта для проведения исследований, которые могли бы способствовать разработке биологического оружия. В отчете, в котором описываются случаи неправомерного использования своих моделей ИИ, компания Anthropic отметила, что не смогла определить, преследовали ли эти исследования законные или злонамеренные цели, поскольку легитимные биологические исследования — такие, которые могут привести к прорывам, например, в области вакцин, — также могут служить для разработки опасных патогенов. В связи с этой неопределённостью компания заявила, что предпочла проявить излишнюю осторожность, поскольку последствия невыявления злонамеренной деятельности могли бы быть серьёзными. «Вы не увидите кого-то в стиле комиксов, говорящего: „Эй, я хочу создать биологическое оружие, чтобы убить всех“, — сказал в интервью Джейкоб Кляйн, руководитель отдела анализа угроз в Anthropic. «Это невероятно многогранная ситуация». «Возможность того, что модели искусственного интеллекта последнего поколения могут облегчить разработку как известных, так и совершенно новых биологических патогенов, является одной из главных причин беспокойства экспертов в отношении технологии, которая развивается настолько быстро, что даже её главные разработчики сомневаются в способности человечества полностью её контролировать». «По сравнению с угрозой катастрофических кибератак или действий ИИ-агентов, не подчиняющихся человеческим намерениям, злоупотребление в биологической сфере уделяется меньше внимания как экзистенциальный риск, отчасти потому, что предыдущие примеры, как правило, демонстрировались только в исследовательских условиях, а не в реальном мире». Эндрю Вебер, старший исследователь Совета по стратегическим рискам (Council on Strategic Risks), который рецензировал отчет Anthropic перед его публикацией, заявил, что эти выводы представляют собой «пугающие примеры того, как разработчики биологического оружия, поддерживаемые государствами, используют быстро развивающиеся возможности» ведущих моделей ИИ. В обширном отчете, опубликованном компанией Anthropic в четверг, перечислены случаи неправомерного использования различных моделей её чат-бота Claude за последние восемь месяцев. Некоторые примеры были схожи с ранее обнародованными данными компании Anthropic и других лабораторий по искусственному интеллекту, в том числе о субъектах, связанных с правительствами Китая и Ирана, которые, как предполагается, вели шпионаж в отношении диссидентских сообществ и диаспор». В отчете также были отмечены случаи, когда российские государственные СМИ использовали Claude для создания онлайн-пропаганды, замаскированной под независимую журналистику, в том числе ложных обвинений в связи с выборами в Молдове. «Anthropic также зафиксировала другой вид злоупотреблений, который она квалифицировала как новый: попытки использовать Claude для разработки программного обеспечения, предназначенного для проектирования и создания обычных вооружений, включая огнестрельное оружие, ракеты, вооруженные дроны и бомбы. В отчете подробно описаны три случая в Китае, два — в России и один — в Йемене. «В отчете не указаны имена сторон, вовлечённых в случай в Йемене, но из контекста ясно, что речь идёт о поддерживаемом Ираном ополчении хультиеров в этом регионе. Использование искусственного интеллекта террористическими сетями вызывает растущую озабоченность среди сотрудников служб безопасности США». Однако из всех категорий угроз, упомянутых в отчете, ни одна не вызывает столько беспокойства, как случаи биологических исследований. Anthropic не раскрыла имена ученых и названий учреждений, к которым был применен доступ, их страны принадлежности, а также конкретные биологические агенты, о которых шла речь, отчасти из-за неопределенности в отношении их намерений». Тем не менее Anthropic заявила, что ученые обошли меры контроля, призванные не допустить доступа пользователей из заблокированных регионов к их моделям ИИ, и пытались «скрыть цель своих исследований, чтобы обойти наши меры безопасности». Компания заблокировала учетные записи, связанные с данными исследования. В одном из примеров, имевшем место в мае, учёный обратился к Claude за помощью в составлении заявки на грант, предназначенного для финансирования исследований по экспериментам с вирусом чикунгунья — болезнью, передаваемой комарами, которая может вызывать месяцы сильной боли и другие симптомы. Такого рода исследования, известные как «исследования по усилению функциональности», могут быть легитимными и приводить к разработке вакцин, но также могут привести к созданию «супервирусов». В данном случае учёный хотел создать мутации вируса, которые сделали бы его более опасным при многократном заражении живых животных. «Anthropic» отметила, что считала это конкретное исследование особенно тревожным, поскольку смогла установить, что работа должна была проводиться в военном научно-исследовательском институте. «Мы не знаем, было ли целью этого исследования превратить его в оружие», — заявил г-н Кляйн. «Но то, что военная организация проводит исследования по усилению функциональности, вызывает беспокойство». «Компания Anthropic указала, что проведённые в прошлом году оценки её более старых моделей показали, что они ещё не способны оказать существенную помощь в проведении опасных биологических исследований. Ее нынешние модели обладают большими возможностями для проведения сложных научных исследований, что послужило толчком к внедрению более строгих мер безопасности, ограничивающих доступ к широкому спектру запросов, касающихся биологических исследований двойного назначения». Сьюзан Монарез, микробиолог и эксперт в области общественного здравоохранения, которая курировала проверку готовности страны к обеспечению биобезопасности во время администрации Обамы, также ознакомилась с отчетом компании Anthropic перед его публикацией. Она отметила, что полученные результаты предоставляют реальные доказательства, подтверждающие опасения о том, что злоумышленники пытаются тайно использовать передовой ИИ «для повышения своих шансов на создание биологических патогенов, способных нанести значительный ущерб». Д-р Монарес, которая в прошлом году ненадолго занимала пост директора Центров по контролю и профилактике заболеваний (CDC), заявила, что ИИ открывает огромные перспективы для наступления эры медицинских прорывов, которые спасут и продлят жизни людей. Однако он добавил, что те же самые возможности, которые делают это возможным, также могут «позволить злоумышленникам скрываться у всех на виду, используя внешне легитимные исследования для создания патогенов, появление которых мы, возможно, не предвидим и которые мы не сможем остановить после их высвобождения». Вебер из Совета по стратегическим рискам, который также занимал должность помощника министра обороны по программам ядерной, химической и биологической защиты в администрации Обамы, призвал ограничить доступ к инструментам искусственного интеллекта, способным проводить исследования в области биологии такого уровня, исключительно доверенными исследователями. «Тот факт, что Россия, Китай и Северная Корея продолжают разрабатывать запрещенное биологическое оружие, делает крайне необходимым лишить их исследователей доступа к этим чрезвычайно мощным моделям», — заключил он».