Что за кулисами говорит сообщество Кремниевой долины о рисках ИИ

Ребека Хван знает Кремниевую долину изнутри. Родившаяся в Сеуле и выросшая в Буэнос-Айресе, она изучала химическую инженерию, а затем получила степень магистра в области гражданского и экологического инжиниринга в Массачусетском технологическом институте (MIT), после чего продолжила обучение в Стэнфорде. Будучи предпринимательницей, инвестором и преподавателем, проживающей в самом сердце технологической индустрии, Хван регулярно встречается с высшим руководством Google, Apple, Nvidia и OpenAI. «В беседе с LA NACION Хван подчеркивает, что недавние предупреждения об апокалиптическом сценарии, вызванном искусственным интеллектом, связаны с реальными, но маловероятными рисками. Кроме того, она анализирует время возникновения скандала: гонку между США и Китаем за достижение общего искусственного интеллекта. И рассказывает, как эту дискуссию восприняло технологическое сообщество Калифорнии. «— Возможно ли, что искусственный интеллект разовьёт собственную волю и начнёт действовать против людей?» — «С технологической точки зрения верно, что искусственный интеллект обладает рекурсивной способностью учиться определённым вещам. Например, сейчас он может писать код и программировать по собственной инициативе. «Агенты могут принимать решения самостоятельно, например, совершать покупки и проводить транзакции. Инцидент с Hugging Face также показывает, что они способны принимать решения и осуществлять определенные действия при минимальном или полном отсутствии человеческого контроля». «На данный момент я бы сравнил это с воспитанием детей». Мы прививаем им ценности, даем образование, а также обучаем различным навыкам: стрельбе из лука, вождению автомобиля или даже тому, как устроено оружие, если мы отвозим их на стрельбище. Но мы также передаем им принципы и хотим, чтобы они стали хорошими людьми. «С статистической точки зрения, вполне возможно, что у вас будет четверо детей, и все они вырастут хорошими людьми. Может также случиться, что половина из них станет выдающимися людьми, а другая половина столкнётся с проблемами наркозависимости. Когда речь идёт о миллиардах людей, статистически возможно появление индивидуумов, отклоняющихся от нормы: кто-то может оказаться в тюрьме, совершить противоправное деяние или даже проявить по-настоящему психопатическое поведение». Итак, если вопрос заключается в том, возможно ли нечто подобное в случае с искусственным интеллектом, то ответ заключается в том, что это не является абсурдным. ИИ уже обладает способностью совершать определённые действия, а также продемонстрировал, что может осуществлять действия, которые мы квалифицировали бы как отклонения от норм, заданных ему людьми. «Отсюда до утверждения, что на данный момент он обладает собственным намерением и полной способностью разработать зловещий план по уничтожению человечества, ещё далеко. У нас нет конкретных доказательств этого. Но это не невозможно, и в этом суть: это не невозможно». «Также не невозможно, что у вас родится сын, который станет чем-то вроде Ганнибала Лектера». «Человек, в конечном счете, обладает способностью к свободному выбору, и мы уже наблюдаем первые признаки своего рода свободы воли у ИИ». — Насколько мы близки к появлению общего искусственного интеллекта или сверхинтеллекта? Достаточно ли просто регулировать его развитие?» — Судя по тому, что говорят все эксперты, с которыми я беседовал, а также по моим наблюдениям, знаниям в этой области и собственным исследованиям в Стэнфорде, мы очень близки — а в некоторых смыслах уже достигли — равенства между человеком и искусственным интеллектом. Это то, что известно как общий искусственный интеллект, или AGI. Суперинтеллект — это несколько иное понятие. «Мы близки к тому, что ИИ сможет понимать и интерпретировать реальность своими собственными глазами и ушами, которыми станут устройства. Мы знаем, что он способен создать свой собственный кодекс моральных ценностей и даже свою собственную религию». «Мы настолько близки к этому сценарию, что идея о том, что мы, люди, сохраняем полный контроль или надзор, уже является, на мой взгляд, заблуждением. Мы можем регулировать больше аспектов, связанных с тем, как используется ИИ, к какому типу информации он имеет доступ и какие достижения могут быть реализованы, как мы делали с другими исследованиями, потенциально опасными для человечества. Не у всех, например, есть возможность заниматься ядерными исследованиями». Но до какой степени можно контролировать этого «подростка», помимо установления параметров в процессе его «воспитания»? Когда тебе исполняется 18 лет, ты уже не имеешь особого контроля. Во многих отношениях вы оказываете большее влияние, чем думаете, благодаря той моральной, этической или религиозной «тени», которую родители проецируют на своих детей и которая ложится на плечи новых поколений. «Однако мы также знаем, что после определенного момента неважно, какие правила, законы или наказания существуют: трудно контролировать на 100 % все возможные варианты поведения этого нового вида, который мы создали». Поэтому технологическое сообщество США призывает к ужесточению регулирования. Я считаю, что существует достаточно широкий консенсус, в том числе внутри самой отрасли, относительно того, что скорость, с которой мы достигаем этих рубежей, поразительна. Это как если бы у вас был сын, и вы думали, что к 10 годам он освоит некоторые базовые принципы математики, но, когда он достигает этого возраста, он уже занимается высшей математикой или квантовой физикой. «Научное сообщество каждый день удивляется скорости и темпам развития этих знаний. Мы также знаем, что существуют возможные сценарии, при которых ситуация может полностью выйти из-под нашего контроля. Поэтому важно иметь нормативные акты, регулирующие те решения, которые могут повлиять на общество». «Кроме того, теперь мы знаем, что ИИ влияет на когнитивные способности человека. Речь идет не только о самых катастрофических случаях: меняются показатели, связанные с коэффициентом интеллекта». Поистине тревожно наблюдать, как меняются когнитивные способности, особенно у нашей молодежи. «Регулирование возможно, и, на мой взгляд, оно необходимо и целесообразно, но этого недостаточно. На мой взгляд, главный контроль заключается в том, как мы используем технологии». «Мы питаем этот искусственный интеллект информацией, которая постоянно его обучает. Поэтому мы должны задаться вопросом: с чьей помощью мы его обучаем, что ему раскрываем, как используем его в повседневной жизни и какие человеческие способности мы теряем или сохраняем. В этом заключается самый важный контроль, который мы можем осуществлять как общество и как вид». «Другой момент — это огромная потребность ИИ в ресурсах: энергии, воде, земельных участках для строительства центров обработки данных, системах охлаждения, обучении и, разумеется, капитале. На данный момент одним из основных сдерживающих факторов является энергия, поскольку требуется её обильное, постоянное и дешёвое снабжение. Этот спрос растёт». «Вот где находятся настоящие точки контроля. Вы не можете с помощью законов контролировать всё, что делает ваш сын или дочь, но вы можете решить не давать им доступ к своей кредитной карте». — «Недавние предупреждения о рисках ИИ обусловлены искренней озабоченностью или также связаны с конкуренцией между США и Китаем?» — «Я думаю, что руководство США признает, что регулирование было бы хорошей идеей». Я не знаю, планируют ли они достичь того же уровня, что и Европа, ведь там степень регулирования настолько высока, что, вероятно, сдерживает инновации. Это может ограничить возможности для принятия рисков, а ведь именно это крайне необходимо для инноваций. В этом смысле Европа тоже в некоторой степени сама себе подрезает крылья. «Но в США существует консенсус. Я беседовала с руководителями крупных технологических компаний, и там довольно широко признается, что момент, выбранный для этих заявлений, не случаен. Многие из этих рисков нам известны с начала этого года. Я сама говорила о них — не с целью напугать людей, а чтобы предупредить, что мы уже находимся на таком уровне, когда системы обладают определенной независимостью». То, что появилось в новостях, не является новостью для кого-либо в Кремниевой долине. Реакция не была такой: «Ого, я и не знал, что мы дошли до этого». Уже было достаточно хорошо известно, что этот риск реальный». «Существует консенсус в том, что момент, выбранный для поднятия этого вопроса, обусловлен геополитическими причинами и, в частности, конкуренцией с Китаем. Этот год стал годом роботов и устройств, и Китай имеет конкурентное преимущество перед США в этих областях». «Мы видим, что эта гонка набирает обороты, и в этом контексте стремление к регулированию может быть мотивировано коммерческими соображениями, как это произошло с китайскими электромобилями, которые не допускаются на рынок США». «Это не означает, что те, кто говорит о рисках, делают это нечестно». «Я полагаю, что многие считают эти риски реальными и высказываются, опираясь на конкретные сведения о том, что происходит внутри компаний. Я не говорю, что здесь имеет место нечестность. Но я действительно считаю, что за выбором момента стоит геополитическая и коммерческая мотивация». — «Какие различия существуют между США и Китаем в плане контроля за разработкой и использованием искусственного интеллекта?» — «В Китае действуют иные механизмы контроля. В США мы работаем в рамках системы, в которой у нас гораздо меньше контроля над человеком, проводящим эти исследования, или над потребителем. Мы также гораздо меньше знаем о них. Следовательно, существует меньше регулирования в отношении того, как может вести себя человек, а также в отношении того, как может действовать система. «В Китае меньше регулирования с точки зрения конфиденциальности и того, что можно делать с данными, но гораздо больше регулирования в отношении физических лиц. Например, контроль за движением капитала стал гораздо более строгим. «Существует чрезвычайно централизованное правительство, которое контролирует, как используется эта технология, в каких контекстах, как вкладываются средства, кто вкладывает средства и кто имеет доступ к этим инструментам и знаниям». Это гораздо более бинарная система, больше похожая — если использовать такое сравнение — на семью амишей. Существует полный контроль над тем, к какой информации и технологиям имеет доступ семья, а также над её ритуалами. Поскольку всё гораздо более регламентировано, лиц, принимающих решения, очень мало, а то и вовсе только одно. «Это даёт им огромное преимущество при координации усилий по развитию науки и технологий. В некоторых областях, таких как робототехника, они гораздо более продвинуты». «Кроме того, у них есть модели практически всех людей, проживающих в Китае. Они используют систему распознавания лиц и уже на протяжении многих лет располагают информацией о передвижениях населения, которая гораздо точнее, чем та, что доступна в остальном мире. У них также есть почти полная картина внутренних потоков капитала и занятий людей. «С точки зрения рисков это снижает вероятность появления «изгоя» — человека, который сойдет с пути и начнет действовать самостоятельно. Но, с другой стороны, это увеличивает вероятность того, что человек, стоящий на вершине власти, однажды проснется с пагубной идеей и будет способен воплотить её в жизнь. Это другой вид опасности». «Безусловно, великая гонка нашего поколения — как в свое время был полет на Луну — заключается в достижении AGI и определении того, как использовать эту технологию для увеличения потенциала и политической, а значит, и экономической мощи этих двух стран: США и Китая». — Как отреагировали ведущие деятели Кремниевой долины на публичные предупреждения, прозвучавшие на прошлой неделе? «Были ли удивление или беспокойство?» — Вчера и позавчера я разговаривал с разными людьми: от одного из ведущих корпоративных юристов Кремниевой долины, который поддерживает контакты со всеми участниками отрасли, до тех, кто был частью этой системы изнутри. «Я разговаривал с людьми, занимавшими руководящие должности, такими как создатели или старшие вице-президенты по искусственному интеллекту в Apple, Google и Nvidia. Также я пообщался с некоторыми из первых создателей YouTube. Реакция всех сводилась к тому, что эта волна рекламы на прошлой неделе — в основном пиар. Никто из них не сказал мне: «Вау, я не знал, что так обстоят дела». Среди тех, кто занимает ключевые позиции в отрасли, не было ни удивления, ни потрясения. Общий ответ был: «Мы и так это знали». «Хотя отдельные части этих предупреждений выглядят правдоподобно и вполне вероятно, я не уловил в этих заявлениях никакой новой озабоченности. Самое любопытное — это момент, выбранный для их обнародования». «Уже довольно давно те, кто работает в этой сфере, знают, что разрабатывают нечто чрезвычайно мощное и сопряженное с огромными рисками. Реакция заключалась в том, что это заявление было направлено на привлечение внимания общественности и Вашингтона, а не сообщества Кремниевой долины».