Берни Сандерс предупреждает, что искусственный интеллект может усугубить неравенство и изменить характер войн

Роботы-воины приближаются, как и миллиардеры, предупредил сенатор Берни Сандерс из Вермонта в обширном интервью NBC News о росте и рисках искусственного интеллекта. «Я думаю, что мы не так уж далеки от создания роботов-солдат», — сказал Сандерс в воскресенье. «Сейчас политики — по крайней мере, иногда — должны беспокоиться о потерях человеческих жизней, когда принимают решение о вступлении в войну. Если вам не нужно беспокоиться о потерях человеческих жизней, а беспокоиться нужно только о потерях роботов, что это означает для вопросов войны и мира в глобальном масштабе? Это серьезная проблема». Сандерс известен своим вниманием к миллионерам и миллиардерам мира и тому, как правительство США может их благоприятствовать. В последние месяцы он обратил свое внимание на искусственный интеллект, который, по его словам, является продолжением его основной озабоченности по поводу неравенства в доходах. «Сегодня, еще до того, как мы увидели все последствия развития робототехники и искусственного интеллекта, мы наблюдаем беспрецедентную концентрацию богатства и доходов», — сказал Сандерс. «1 % самых богатых американцев владеют большим богатством, чем 93 % самых бедных», — сказал он. «Все эти миллиардеры — Маски, Эллисоны, Безосы, Цукерберги — инвестируют сотни и сотни миллиардов долларов в искусственный интеллект и робототехнику. Каков результат всего этого?» Илон Маск, генеральный директор xAI, только что получил одобрение на получение пакета вознаграждений от одной из своих других компаний, Tesla, который может сделать его первым в мире триллионером. «Это будет означать еще больше богатства и еще больше политической власти для этих людей на вершине, в то время как наша демократия будет становиться все слабее и слабее. Рабочие люди увидят значительное снижение своего уровня жизни, если мы не изменим эту ситуацию». Внимание Сандерса к ИИ привлекает внимание в то время, когда технологические компании объявили об исторических инвестициях в ИИ и стремятся заручиться поддержкой президента Дональда Трампа. Администрация Трампа уделяет приоритетное внимание обеспечению того, чтобы экосистема ИИ в Америке была «не обременена бюрократической волокитой», чтобы избежать «обременительного режима регулирования», при этом сохраняя многие аспекты усилий администрации Байдена в области ИИ. Сандерс — не единственный избранный чиновник, обращающий внимание на эту проблему, поскольку интерес к законодательству в области ИИ растет как на уровне штатов, так и на федеральном уровне. Во вторник подкомитет Палаты представителей собрался, чтобы обсудить безопасность чат-ботов с ИИ. В интервью NBC News Сандерс сказал, что считает этот вопрос неотложным и надеется вызвать более широкую дискуссию об ИИ и его потенциальном воздействии на общество: «Люди, которые изучали этот момент, предполагают, что это не просто очередная технологическая революция. Это гораздо более глубокий процесс, и он будет проходить гораздо быстрее». С учетом такой быстро развивающейся и универсальной технологии, как ИИ, Сандерс видит угрозу не только для работников, но и для более широких представлений о человечестве. «Люди обеспокоены тем, что в настоящее время многие молодые люди, подростки, полагаются на общение с ИИ, а не с другими людьми», — сказал Сандерс. «Если сегодняшние дети считают ИИ своими лучшими друзьями, «людьми», с которыми они общаются, с которыми проводят большую часть своего времени, а не с другими людьми, то какие изменения это означает для человечества?» «Мы говорим о невероятно глубоких, серьезных вопросах о том, что значит быть человеком», — заключил Сандерс. «Этот вопрос требует широкого обсуждения, и я надеюсь, что мы сможем его поднять». Во вторник вечером в Джорджтаунском университете Сандерс проведет встречу с «крестным отцом ИИ» и лауреатом Нобелевской премии Джеффри Хинтоном, чтобы обсудить развитие ИИ, в том числе его влияние на работников. «Люди, которые знают об этом гораздо больше, чем я, такие как Илон Маск, Билл Гейтс, Дарио Амодей, говорят о массовом, массовом сокращении рабочих мест», — сказал Сандерс. «Маск недавно сказал, что «ИИ и роботы заменят все рабочие места. Работать будет необязательно». «Но что это значит, если ИИ заменит все рабочие места? Если я сегодня работаю на заводе, если я работаю в офисе, как я буду кормить свою семью? Как я буду платить за аренду? Кто об этом говорит?» — добавил Сандерс, сославшись также на недавние заявления генерального директора Anthropic Амодеи о том, что ИИ может ликвидировать половину всех начальных должностей для белых воротничков и увеличить безработицу до 20 % в течение следующих 1–5 лет. «Среди американского народа, в СМИ и, конечно же, в Конгрессе обсуждается слишком мало вопросов, связанных с последствиями развития искусственного интеллекта и робототехники». В октябре Сандерс опубликовал отчет об искусственном интеллекте и провел слушания по вопросу о потенциале искусственного интеллекта в поддержке американских работников и семей. Он также предложил ограниченный набор мер, которые, по его мнению, могли бы помочь решить некоторые проблемы, связанные с ИИ, в том числе увеличение доли сотрудников в собственности компаний, сокращение рабочей недели и даже введение потенциального налога на роботов для крупных корпораций, с использованием «доходов для улучшения жизни пострадавших работников». Сандерс также предложил разделить ведущую американскую компанию в области ИИ OpenAI, учитывая ее размер. В интервью NBC News он сказал, что его призыв «был более общим», чем просто OpenAI, и был направлен на несколько крупнейших американских компаний, занимающихся ИИ. «Когда я говорю о разделении этих [компаний], я имею в виду создание ситуации, в которой эта новая технология будет приносить пользу обычным людям, а не просто разрабатываться горсткой миллиардеров, чтобы сделать их еще богаче», — сказал он. «У меня нет готового плана, потому что никто еще не сталкивался с такой реальностью, но идея, что горстка мультимиллиардеров может определять будущее человечества, кажется мне немного безумной». Сандерс также критикует растущие усилия американских венчурных капиталистов и богатых доноров по созданию супер-PAC, предназначенных для лоббирования против регулирования ИИ. «Есть люди, которые считают, что требовать регулирования искусственного интеллекта и робототехники в настоящее время — это почти антирелигиозно, антихристово», — сказал он, косвенно ссылаясь на недавние выступления верного сторонника Кремниевой долины Питера Тиля. В одной из этих лекций Тиль сказал: «В XXI веке антихрист — это луддит, который хочет остановить всю науку». « Это почти возвращает нас в 1700-е годы и монархии по всей Европе», — сказал Сандерс. «Некоторые из этих крупных технологических компаний считают, что у них есть данное Богом право править миром, и идея, что Конгресс или обычные граждане могут возражать против того, что они делают, для них неприемлема». «Поэтому они вкладывают неограниченные суммы денег в супер-PAC, чтобы избрать кандидатов, которые позволят им делать все, что они хотят. Это очень опасно». Отвечая на вопрос об усилении сотрудничества между ведущими американскими компаниями в области искусственного интеллекта и вооруженными силами США, Сандерс подчеркнул растущую озабоченность по поводу конфиденциальности. «Насколько мы далеки от того, чтобы небольшое число людей имело доступ к вашим электронным письмам, всем вашим телефонным звонкам, фактически ко всем аспектам вашей жизни? Недалеко». «Либо мы уже там, либо мы уверены, что окажемся там. Это дает людям на верхушке чрезвычайный контроль, когда они обладают этой информацией», — сказал он. Сандерс присоединяется к растущей и двухпартийной группе национальных политиков, занимающихся вопросами ИИ. Некоторые, такие как сенатор Джош Хоули, республиканец из Миссури, сосредоточились на влиянии ИИ на общество. Хоули недавно предложил несколько законопроектов, связанных с ИИ, в том числе по ограничению доступа несовершеннолетних к чат-ботам, по улучшению отслеживания увольнений, связанных с ИИ, и по созданию механизма оценки возможностей моделей ИИ. Другие, в том числе сенаторы Элизабет Уоррен (Демократическая партия, Массачусетс) и Джим Бэнкс (Республиканская партия, Индиана), предложили законопроекты, направленные на экспорт американских технологий и оборудования ИИ в Китай. Со своей стороны, Сандерс надеется, что его голос поможет продвинуть обсуждение. «Я вижу растущее осознание проблемы, но не думаю, что Конгресс действует достаточно быстро», — сказал он.