Уоррен требует от Хегсета раскрыть информацию о доступе xAI к сетям с секретной информацией

Сенатор Элизабет Уоррен (демократ от штата Массачусетс) направила в понедельник письмо министру обороны Питу Хегсету с требованием предоставить информацию о предполагаемом решении Пентагона предоставить компании xAI Илона Маска доступ к секретным сетям. В письме Уоррен выразила обеспокоенность тем, что xAI и ее чат-бот на базе искусственного интеллекта Grok могут представлять серьезную угрозу безопасности и надежности американских вооруженных сил. Уоррен указала на возможность утечки секретной информации Grok противникам, манипулирования им на основе предвзятых или неточных данных, а также отсутствия критически важных мер безопасности, что может подвергнуть военнослужащих опасности. «Я обеспокоена тем, что явное отсутствие у Grok надлежащих защитных механизмов может представлять серьезную угрозу безопасности военнослужащих США и кибербезопасности секретных систем», — написала Уоррен в письме, с которым ознакомилась NBC News, «особенно если Grok будет предоставлен доступ к конфиденциальной военной информации и оперативным системам». «Неясно, какие гарантии или документацию xAI предоставила Министерству обороны в отношении мер безопасности Grok, методов обработки данных или средств контроля безопасности, и проверило ли Министерство обороны эти гарантии, прежде чем, как сообщается, предоставить Grok доступ к секретным системам», — написала Уоррен. По данным Axios со ссылкой на анонимного представителя Министерства обороны, в конце февраля Пентагон и xAI достигли соглашения, которое открывает путь для использования систем xAI в секретных сетях. Die Ankündigung erfolgte inmitten des Zerwürfnisses zwischen dem Pentagon und dem konkurrierenden KI-Unternehmen Anthropic, das auf strengeren Garantien bestanden hatte, dass das Pentagon seine KI-Systeme nicht zur Überwachung im Inland oder zum direkten Einsatz in tödlichen Waffen nutzen würde. Es ist unklar, ob der gemeldete Vertrag von xAI mit dem Pentagon ein breiteres Anwendungsspektrum zulässt als der von Anthropic vorgeschlagene Vertrag. In ihrem Schreiben forderte Warren eine vollständige Kopie der Vereinbarung, die Berichten zufolge zwischen dem Verteidigungsministerium und xAI getroffen wurde. Im Juli erhielt xAI vom Pentagon einen Auftrag im Wert von bis zu 200 Millionen Pesos zur Entwicklung neuer KI-Anwendungen für das Verteidigungsministerium. In einer Erklärung erklärte das Chief Digital and Artificial Intelligence Office des Militärs, der Vertrag werde „die Nutzung und Erfahrung des Verteidigungsministeriums im Bereich innovativer KI-Fähigkeiten erweitern und die Fähigkeit dieser Unternehmen verbessern, kritische nationale Sicherheitsbedürfnisse zu verstehen und zu erfüllen“. In den letzten Monaten geriet xAI laut dem Wall Street Journal aufgrund von Bedenken hinsichtlich der Sicherheit und Zuverlässigkeit seiner Grok-Dienste unter intensive Beobachtung durch mehrere Regierungsbehörden. Das Journal berichtete, dass das Pentagon zuvor Bedenken bezüglich Grok geäußert und „in Frage gestellt hatte, ob es mit den ethischen Grundsätzen und Standards der Regierung im Einklang stehe“. Ende Dezember und Anfang Januar erregte xAI große Aufmerksamkeit wegen der Fähigkeit von Grok, Bilder von Menschen – vor allem von Frauen und Kindern – so zu manipulieren, dass die Kleidung der abgebildeten Personen entfernt wurde. Этот инцидент побудил генерального прокурора Калифорнии Роба Бонту начать расследование в отношении компании, а такие страны, как Индонезия и Малайзия, запретили Grok из-за публикации фотографий сексуального характера. Маск позиционирует Grok как более либеральную и менее «прогрессивную» платформу по сравнению с моделями искусственного интеллекта от таких конкурентов, как Anthropic, OpenAI и Google. Эти более низкие ограничения привели к тому, что чат-бот иногда генерировал спорные или провокационные ответы, например, публикуя антисемитские посты после технического обновления в июле. Подобные комментарии Grok в ноябре побудили французское правительство начать расследование в отношении xAI. В феврале Управление по защите данных Европейского союза начало расследование в отношении X, социальной медиа-платформы, тесно связанной с Grok и xAI, из-за опасений, что X распространяет сексуализированные изображения женщин и детей, сгенерированные ИИ. Маск назвал аналогичные действия, предпринятые в феврале прокуратурой Парижа, «политической атакой». В своем письме Уоррен попросила Хегсета рассказать, как Министерство обороны планирует снизить риски неточных ответов и других недостатков в области безопасности, а также предоставить всю переписку, которая привела к заключению соглашения. Уоррен попросила предоставить несекретный ответ до 27 марта.