OpenAI меняет соглашение с Пентагоном, поскольку критики бьют тревогу по поводу слежки

Генеральный директор OpenAI Сэм Альтман в понедельник вечером обнародовал переработанное соглашение с Пентагоном, регулирующее использование Министерством обороны его услуг в области искусственного интеллекта, которое, по его словам, дает более веские гарантии того, что военные не будут использовать системы OpenAI для внутреннего наблюдения. Согласно сообщению на сайте OpenAI, новое соглашение гласит, что «система искусственного интеллекта не должна намеренно использоваться для внутреннего наблюдения за гражданами и подданными США». OpenAI столкнулась с некоторым негативным откликом, когда в пятницу появилась новость о первоначальном соглашении между ведущей компанией в области искусственного интеллекта и Пентагоном. Многие наблюдатели утверждали, что первоначальный текст, опубликованный на сайте OpenAI, предоставлял правительству широкие возможности для наблюдения за американцами. Этот шаг был предпринят после нескольких недель интенсивных дебатов между конкурирующей компанией Anthropic и Пентагоном о том, как военные могут использовать передовые системы искусственного интеллекта. В то время как Министерство обороны хотело, чтобы Anthropic согласилась использовать свои системы для «любых законных целей», Anthropic настаивала, что ее системы не могут использоваться для внутренней слежки или управления смертоносным автономным оружием. До прошлой недели Anthropic была единственной крупной компанией в сфере искусственного интеллекта, услуги которой активно использовались в секретных сетях. Исследователи утверждают, что без ограничений ИИ может позволить властям отслеживать людей с беспрецедентной скоростью и точностью, прочесывая горы цифровых данных, чтобы отслеживать передвижения и поведение людей. «Очень важно защищать гражданские свободы американцев», — написал Альтман в посте в понедельник вечером, объявляя о новой формулировке контракта, которая, по его словам, лучше ограничивает внутреннюю слежку. «Министерство также подтвердило, что наши услуги не будут использоваться разведывательными агентствами Министерства войны (например, АНБ)». Катрина Маллиган, глава отдела национальной безопасности OpenAI, добавила в другом посте во вторник утром, что «разведывательные подразделения Министерства обороны исключены из этого контракта», оговорив, что она готова к будущему сотрудничеству с АНБ, «если будут приняты надлежащие меры безопасности». OpenAI не ответила на запрос о комментарии. Многие наблюдатели во вторник остались непреклонными, опасаясь, что фрагменты контракта OpenAI с Пентагоном, опубликованные компанией, остались намеренно расплывчатыми и содержали исключения для внутренней слежки со стороны различных разведывательных агентств в рамках Министерства обороны. Полный текст контракта не был обнародован. «OpenAI заявила, что Министерство войны по контракту согласилось не использовать ChatGPT в агентствах, которые ведут наблюдение за американским населением», — сказал Брэд Карсон, бывший член Конгресса и генеральный советник армии, который в настоящее время возглавляет политическую группу Americans for Responsible Innovation в Вашингтоне, округ Колумбия. «Они с удовольствием показывали формулировки контракта, когда это было им выгодно, но отказываются обнародовать это договорное положение». «Я с неохотой пришел к выводу, что этого положения на самом деле не существует, и они просто пытаются его подделать», — сказал Карсон NBC News. Карсон недавно основал супер-PAC, специализирующийся на искусственном интеллекте, который получил 20 миллионов долл. от конкурента OpenAI, компании Anthropic. Несколько юридических экспертов согласились с тем, что для правильной оценки заявлений компании необходима большая прозрачность всего контракта и любых других ключевых положений. «Нам все еще нужно увидеть весь контракт, чтобы сказать что-либо с разумной степенью уверенности», — сказал Брайан МакГрейл, старший юрисконсульт Центра безопасности искусственного интеллекта, некоммерческой исследовательской и правозащитной группы. «Это определенно шаг в правильном направлении, и я хочу отдать OpenAI должное». Соглашение OpenAI с Пентагоном было объявлено вскоре после того, как министр обороны Пит Хегсет заявил, что он намеревается признать конкурирующую компанию Anthropic, которая долгое время вела переговоры с Пентагоном о заключении контракта, угрозой национальной безопасности в сфере цепочки поставок. Anthropic заявила, что такое обозначение, которое заставит Пентагон и подрядчиков прекратить использование услуг Anthropic в оборонных целях, никогда ранее не применялось публично к американской компании. На мероприятии в Саусалито, Калифорния, в понедельник, отставной генерал Пол Накасоне, бывший директор Агентства национальной безопасности и США Киберкомандование заявило, что Пентагон должен работать над внедрением технологий всех ведущих американских компаний в области искусственного интеллекта в систему национальной обороны. «Нам нужна Anthropic, нам нужна OpenAI, нам нужно, чтобы все наши крупные компании, занимающиеся языковыми моделями, сотрудничали с нашим правительством», — заявил Накасоне, член совета директоров OpenAI, на конференции, организованной Институтом Аспена. «Я считаю, что ситуация с цепочкой поставок неблагоприятна. Мне было сложно слушать дискуссии, которые велись в выходные, и их тон. Как гражданин США, человек, который работал в правительстве, я просто считаю, что это неправильно, понимаете? Это не риск для цепочки поставок». Anthropic долгое время утверждала, что Министерство обороны не может использовать ее системы искусственного интеллекта для массовой слежки внутри страны или для непосредственного использования в автономном оружии, хотя в декабре она добавила уступки для военных, разрешив им использовать свои системы для целей кибербезопасности и противоракетной обороны. После встречи генерального директора Anthropic Дарио Амодеи и Хегсета в прошлый вторник Министерство обороны выдвинуло Anthropic ультиматум, требуя достичь соглашения до 17:00 по восточному времени в пятницу. Однако в четверг представитель Anthropic сообщил NBC News, что последнее «формулировка Министерства обороны, представленная как компромисс, сопровождалась юридическими терминами, которые позволяют игнорировать эти меры безопасности по собственному усмотрению». Но в то время как отношения Anthropic с Министерством обороны разорвались, отношения OpenAI углубились: в пятницу было объявлено о заключении контракта, что добавило новый виток интриги к истории, которая и без того привлекла внимание большей части технологического и оборонного сообщества. В своем посте в понедельник вечером Альтман сказал, что спешка с подписанием соглашения сделала переговоры «оппортунистическими и неаккуратными», хотя OpenAI «искренне пыталась деэскалировать ситуацию и избежать гораздо худшего исхода». В течение выходных и в начале этой недели армия юридических экспертов изучала последнюю версию публичного контракта OpenAI, пытаясь определить, действительно ли условия компании добавили какие-либо существенные меры защиты, выходящие за рамки стандарта Министерства обороны «любое законное использование». «Я не понимаю, почему Пентагон согласился с этой формулировкой, когда только что пытался уничтожить Anthropic за то, что та запросила нечто очень похожее», — написал Чарли Баллок, старший научный сотрудник аналитического центра Institute for Law and AI, на X после появления обновленной формулировки. Многие юридические эксперты утверждают, что каждое слово в контракте имеет значительный вес, поскольку, по их мнению, правительство будет максимально широко толковать условия контракта. «В ходе дебатов по вопросам наблюдения мы снова и снова наблюдаем одну и ту же картину: разведывательные службы и органы национальной безопасности в конечном итоге интерпретируют исключения чрезвычайно широко, гораздо шире, чем любой нормальный разумный человек», — сказал МакГрейл. «А поскольку большая часть этой информации является секретной, у общественности ограниченные возможности для противодействия». «Так может ли здесь быть какая-то новая лазейка, которую мы не предвидим? Это вполне возможно», — добавил МакГрейл. Эксперты также сосредоточили внимание на том, является ли контракт окончательно закрепленным в современных представлениях о законности, поскольку они опасаются, что правительство может изменить границы «любого законного использования» путем издания новых исполнительных указов или юридических заключений. Недавние дебаты о военном использовании ИИ для внутренней слежки были сосредоточены, в частности, на способности правительства использовать в своих операциях коммерчески доступные данные, поскольку другие методы слежки за американцами могут оказаться более сложными для получения юридического одобрения. На протяжении многих лет компании, предоставляющие или отображающие рекламу на телефонах или ноутбуках, могли собирать целевые данные о пользователях, включая точные данные о местоположении, и продавать эту информацию различным государственным органам для определения моделей поведения и передвижений отдельных лиц. Маллиган, руководитель OpenAI по национальной безопасности, заявил в понедельник вечером в посте X, что «новая формулировка контракта подтверждает, что внутреннее наблюдение запрещено в соответствии с этим соглашением, в том числе с использованием коммерчески приобретенной информации». Сенатор. Рон Уайден, сенатор от штата Орегон, который в последние годы неоднократно предупреждал о том, что федеральное правительство покупает коммерчески доступные данные об американцах для целей слежения, раскритиковал Пентагон за то, что тот не согласился с опасениями Anthropic по поводу конфиденциальности. «Министерство обороны возмущается тем, что Anthropic просит установить минимальные этические ограничения на использование своего продукта», — заявил Уайден в электронном письме. «Это серьезный повод для беспокойства, учитывая способность ИИ превращать разрозненные фрагменты публичных или коммерческих данных в очень информативные профили американцев. Данные о местоположении, записи о просмотрах веб-страниц, а также информация о психическом здоровье, политической деятельности и религиозной принадлежности доступны на открытом рынке за гроши и могут сделать американцев мишенями за действия, которые являются совершенно законными». «Создание профилей американцев на основе этих данных представляет собой пугающее расширение массовой слежки, которое не должно быть допущено, независимо от того, что говорят действующие устаревшие законы». Амодей, генеральный директор Anthropic, неоднократно отмечал, что необходимы более твердые обязательства со стороны Министерства обороны не использовать ИИ для слежки за американцами, поскольку законодательство не успевает за все более мощными возможностями ИИ по анализу и разбору огромных массивов данных. Недавние исследования также показали, что современные системы ИИ могут идентифицировать отдельных лиц, даже если исходные данные якобы были анонимизированы. Протестующие против первоначальной сделки OpenAI с Пентагоном в минувшие выходные окружили штаб-квартиру OpenAI в Сан-Франциско, оставив мелом надписи, призывающие сотрудников скептически относиться к условиям компании, а после появления новостей о соглашении резко возросло количество удалений приложения ChatGPT от OpenAI. Майкл Хоровиц, бывший заместитель помощника министра обороны по новым технологиям и нынешний профессор политологии в Университете Пенсильвании, заявил NBC News, что спор между Пентагоном и Anthropic выходит за рамки простых условий контракта. «Этот спор отражает разрыв доверия между Anthropic и Пентагоном, где Anthropic не верит, что Пентагон будет использовать их технологии ответственно, а Пентагон не верит, что Anthropic позволит использовать свои технологии для того, что Пентагон считает важными случаями использования в целях национальной безопасности», — сказал Хоровиц. «Частично это связано с культурными различиями, частично с политикой, частично с личностями».