Вэнс предупреждает, что искусственный интеллект не должен превосходить человека на поле боя

Вице-президент Джей Ди Вэнс заявил в четверг, что его беспокоит вопрос о том, как развивающийся искусственный интеллект будет использоваться в военных действиях, и призвал выпускников Военно-воздушной академии не позволять технологии заменить их собственное суждение. «Поскольку ИИ меняет облик поля боя — в некоторых отношениях к лучшему, в некоторых — нет, — я прошу вас ревностно и эгоистично относиться к своей роли как лиц, принимающих решения в ходе боевых действий», — сказал Вэнс в своей речи на выпускной церемонии в Военно-воздушной академии США в Колорадо-Спрингс, штат Колорадо. «Используйте технологии, чтобы стать лучше, но никогда не подчиняйтесь им. Вы — хозяева войны. И ваш разум, и ваше сердце — полная противоположность искусственному». Наставление Вэнса прозвучало в ту же неделю, когда Папа Лев XIV опубликовал теологический документ, предупреждающий о неконтролируемом развитии ИИ. Вице-президент высоко оценил работу Папы над этим документом в интервью NBC News и сослался на него в четверг в своей речи. Вэнс, один из самых ярых сторонников ИИ в администрации Трампа, также упомянул недавние освистывания, обрушившиеся на выпускных ораторов, которые уделяли внимание этой теме. «Ну, меня вы освистать не можете, я же вице-президент Соединенных Штатов», — пошутил Вэнс. «Но ваши соотечественники, что вполне понятно, обеспокоены ИИ, тем, как он повлияет на рынок труда, как будет распределяться ресурсы и как он коренным образом изменил то, как мы взаимодействуем друг с другом — нашу социальную жизнь». «Но больше всего в связи с ИИ меня беспокоит то, как он изменит ведение военных действий». Вэнс, который до вступления в политику работал в сфере венчурного капитала, давно выступает против чрезмерного регулирования ИИ и пропагандирует то, что он считает его преимуществами. Однако в связи с тем, что опросы показывают обеспокоенность избирателей ростом влияния ИИ, в последние месяцы Вэнс стал подходить к этому вопросу с большим скептицизмом на публике. Он подчеркнул, например, необходимость обеспечить, чтобы новые модели ИИ защищали предприятия и потребителей от уязвимостей в сфере кибербезопасности. «Эта технология… просто поднимает такие глубокие вопросы о том, как мы взаимодействуем друг с другом, какие навыки нужны рабочей силе, в каких войнах мы будем участвовать и как мы будем вести эти войны», — сказал Вэнс во вторник, отвечая на вопрос об энциклике Папы Римского по ИИ. «Я считаю, что нам действительно нужно моральное лидерство, чтобы тщательно обдумать эти вопросы, и именно в этом церковь является лучшим лидером». Выступая в четверг перед примерно 900 курсантами, получающими диплом и звание офицеров ВВС, Вэнс подчеркнул, что, несмотря на все достижения в области искусственного интеллекта, «одна из вещей, которая делает американцев уникальными — и делает вас, как военнослужащих, уникальными — это то, что мы ведем войну справедливо». Вэнс добавил, что «если войны будущего должны соответствовать моральным ценностям наших предков, решения о жизни и смерти должны приниматься людьми, а не машинами». Министр обороны Пит Хегсет вступил в конфликт с компанией Anthropic, занимающейся ИИ, которая сопротивлялась попыткам администрации Трампа снять ограничения на использование ее продуктов в военных целях, в том числе в смертоносном автономном оружии. Спустя всего несколько недель после вступления в должность вице-президента в прошлом году Вэнс выступил с пламенной речью на международном саммите AI Action Summit в Париже, упрекнув европейских союзников в их жестком подходе к регулированию ИИ и посоветовав им «смотреть на эту новую границу с оптимизмом, а не с трепетом». В течение последних нескольких месяцев Вэнс уделяет все больше внимания вопросу управления растущими возможностями ИИ. По данным CNBC, в начале апреля он и министр финансов Скотт Бессент провели телефонную конференцию с руководителями ведущих технологических компаний, чтобы узнать о последствиях новейших моделей ИИ для кибербезопасности. Через несколько дней компания Anthropic, занимающаяся искусственным интеллектом, объявила, что её новейшая модель под названием Mythos Preview обнаружила тысячи серьезных и критических уязвимостей в области кибербезопасности в распространенных программных приложениях. Это заявление придало новый импульс процессу определения политики администрации в области ИИ, в результате чего в обсуждениях по этому вопросу стали более активно участвовать глава аппарата Белого дома Сьюзи Уайлз, национальный директор по кибербезопасности Шон Кэрнкросс и другие. С тех пор различные фракции в Белом доме спорят о том, как следует реагировать на новые угрозы со стороны мощных систем искусственного интеллекта. Некоторые, как Бессент, выступают за более тщательный контроль над мощными системами ИИ, в то время как другие, такие как бывший «царь ИИ» Дэвид Сакс, агитируют за более мягкий подход. На пресс-конференции в Белом доме в прошлый вторник Вэнс подчеркнул, что администрация сотрудничает с ведущими технологическими компаниями, «чтобы обеспечить максимальную безопасность американского народа». » Вэнс также упомянул о готовящемся указе, который был разработан в ответ на угрозы кибербезопасности со стороны таких моделей, как Mythos Preview. Однако президент Дональд Трамп в последнюю минуту решил не подписывать указ, который ввел бы добровольный механизм тестирования правительством США новейших моделей ИИ от ведущих компаний в этой области.