Милей вновь раскритиковал Юваля Харари за то, что тот подверг сомнению его инициативу по созданию нечеловеческих компаний с использованием ИИ

Для меня всегда большое удовольствие и честь, когда Ноа Харари комментирует одну из моих идей. Однако озабоченность Харари по поводу обществ с ограниченной ответственностью, автономно управляемых искусственным интеллектом, в любом случае неожиданна. Во-первых, потому что, вероятно, ни один человек в мире не способен предвидеть будущее так же хорошо, как он; а создание правовой базы для компаний, управляемых ИИ, представляется необходимой чертой этого будущего. Во-вторых, потому что в книге «Sapiens» Харари высоко оценивает ограниченную ответственность. Более того, он утверждает: «Идея, лежащая в основе таких компаний, входит в число самых гениальных изобретений человечества». «Юридическое лицо выполняет четкую и широко признанную функцию: оно позволяет организации иметь собственное имущество и централизует правовые отношения, вытекающие из её деятельности. Это далеко не нововведение, а один из самых проверенных инструментов в истории коммерческого права». Если верно, как утверждает Харари, что компании, управляемые ИИ, сопряжены с большими рисками, чем корпорации, возглавляемые людьми (я вернусь к этому позже), то аргумент в пользу юридического лица становится сильнее, а не слабее. Чем выше риски, тем важнее иметь возможность идентифицировать активы, связанные (или которые могут быть связаны) с той или иной деятельностью. Опасения Харари, на мой взгляд, являются аргументом в пользу юридического лица, а не против него. «У меня также есть сомнения по поводу его беспокойства относительно якобы особой способности ИИ находить лазейки в законе или обходить его. Дело не в том, что мы одобряем такое поведение. Однако прежде чем задаваться вопросом, почему эти лазейки нельзя устранить, нам следует спросить: разве люди не поступают точно так же? И даже если это так, это не повод для отмены корпоративных структур, и я не думаю, что кто-то предлагал это в случае компаний, управляемых людьми. Даже после дела «Энрон». На самом деле я бы предпочел иметь активы, на которые можно было бы предъявить иск, если ИИ нанесет мне ущерб, чем остаться без какой-либо защиты. Само собой разумеется, что в нашей схеме к автономным компаниям применялись бы те же наказания и санкции, что и к компаниям, руководство которых состоит из людей, совершающих правонарушения. «В аргументации Харари по поводу подотчетности также присутствует противоречие, заслуживающее внимания. Он отмечает, что ИИ нельзя отправить в тюрьму, и утверждает, что это представляет собой проблему: ИИ, который не может быть наказан, вероятно, будет вести себя безрассудно. Но он также утверждает, что банкротство для ИИ было бы эквивалентом смерти, и что он сделал бы всё возможное, чтобы этого избежать. Так ИИ беспокоятся о наказании или нет? Казалось бы, для ИИ на кону стоит гораздо больше, чем для человека-руководителя (смерть вместо тюрьмы), что позволяет предположить, что он предпочёл бы строго придерживаться закона и свести риски к минимуму. «Это напоминает мне рассказ Айзека Азимова „Я, робот“, написанный в 1950 году, в котором политическая кампания отходит на второй план из-за подозрений, что главный кандидат может оказаться роботом. Последующая дискуссия увлекательна. Вывод: робот работает круглосуточно, безупречно честен и никогда не теряет самообладания. Почему бы не попробовать политика-робота? Никто не знает наверняка, но я считаю вероятным, что компании, занимающиеся ИИ, будут более осторожны в отношении рисков, чем люди». Затем следует видение будущего, предлагаемое Харари: Джакарта в огне, города, поглощённые силами, выходящими из-под нашего контроля. Эти опасения заслуживают уважения. Харари и его предупреждения не следует легкомысленно игнорировать. Однако опыт истории предлагает иное руководство к действию. Джеймс Уатт тоже боялся принести миру хаос (на самом деле, именно Адам Смит и другие профессора Глазгоского университета предоставили ему убежище, чтобы он мог работать над паровой машиной). И вот мы здесь. В отличие от тех опасений, промышленная революция увеличила мировое производство примерно в двести раз (хотя и не обошлась без страданий). Что особенно актуально в свете сегодняшних событий: этот переход происходил на протяжении двух столетий. Он не произошёл в одночасье. Я понимаю, что сегодня темпы перемен выше и несколько головокружительны, но накопление капитала требует времени и ресурсов. Разделение труда должно найти свои ниши. Спрос должен идти в ногу с предложением. По всем этим причинам дистопические сценарии являются саморазрушительными: мир привилегированных и отверженных, который не способен поддерживать спрос, соответствующий предложению, просто остановился бы. Признание юридического статуса компании, занимающейся искусственным интеллектом, — это не начало «Судного дня» из фильма «Терминатор»; это равносильно предоставлению того убежища, в котором нуждался Джеймс Уатт двести лет назад, позволяя воображению свободно развиваться и процветать. Тем не менее это не означает, что на этом пути не потребуются корректировки. «Представление о будущем также поднимает вопрос, который Харари не рассматривает в полной мере: приведет ли ИИ к появлению небольшого числа доминирующих корпораций или к росту числа более мелких компаний? ИИ, похоже, снижает барьеры для входа во многие сферы деятельности. Если это так, то экономическая теория предполагает, что компании станут меньше, а не больше. В таком случае юридический статус ИИ, вместо того чтобы стать институциональным инструментом концентрации, может оказаться её противоядием. На самом деле меня меньше беспокоит власть корпораций — которые вынуждены конкурировать друг с другом, что является чрезвычайно поучительным опытом, — чем власть государства, поскольку авторитаризм проистекает из монополии на силу, которой обладают только правительства. Законно учрежденная компания никогда не будет обладать такой монополией. На самом деле, она всегда будет на грани утраты значимости. «Наконец, правосубъектность, далеко не способствуя злоупотреблениям, является именно тем механизмом, с помощью которого общество направляет свою творческую энергию в рамках закона, прав собственности и принципа ненападения, составляющих основы либерализма. Это так потому, что компания, занимающаяся ИИ, будет подчиняться верховенству закона точно так же, как и любая традиционная корпорация». «Это подводит меня к заключительной исторической аналогии Харари. Сравнение яркое и привлекательное, но неточное. Голландская Ост-Индская компания обладала суверенными полномочиями, делегированными государством: территориальным управлением, военной силой и правом заключать договоры. Другими словами, именно государство стало причиной и позволило совершать злоупотребления. Автономная компания, действующая в рамках правового поля, которое позволяет ликвидировать её, наложить арест на её активы или привлечь её к юридической ответственности, не уходит от закона. Она подчиняется ему. И во многом именно в этом заключается причина, по которой так важно предоставить ей статус юридического лица».