Юваль Харари подверг критике Милей за его инициативу по созданию нечеловеческих компаний с помощью ИИ

«Когда я выступал на Всемирном экономическом форуме в январе этого года, я предупреждал, что правительства могут когда-нибудь присвоить правосубъектность моделям ИИ. Я и представить себе не мог, что это «когда-нибудь» наступит всего через четыре месяца», — написал Харари в статье, опубликованной сегодня в Financial Times под заголовком «Мы не должны присваивать правосубъектность агентам ИИ». «Судя по заголовку, Харари занимает позицию, противоположную позиции Милеи, который представляет себе новый тип нечеловеческих компаний с целью обеспечения правовой безопасности для инвестиций, которые в целом находятся в правовой серой зоне. Именно эта идея лежит в основе законопроекта, продвигаемого министром по дерегулированию Федерико Стурценеггером. «На прошлой неделе в этой газете президент Аргентины Хавьер Милей объявил о создании новой юридической категории для нечеловеческих корпораций. Как и традиционные корпорации, эти нечеловеческие корпорации будут пользоваться преимуществами юридического лица. Предположительно, они смогут владеть активами, нанимать сотрудников, участвовать в международной торговле, подавать иски в суды и даже делать пожертвования на политические кампании. В отличие от традиционных корпораций, они смогут делать все это без вмешательства и ответственности со стороны какого-либо человека. Все решения о покупке, продаже, найме, инвестициях, судебных разбирательствах и пожертвованиях могут приниматься агентами ИИ», — написал Харари. «И он предупредил: „Признание юридического статуса ИИ позволило бы ИИ-агентам осуществлять множество новых инициатив, что потенциально могло бы привести к созданию огромного богатства. Однако юридический статус — это универсальный ключ, который также дал бы им доступ к нашим финансовым, экономическим и политическим системам. Это вызывает множество опасений“. «В книге «Nexus» Харари посвящает сотни страниц реконструкции истории информации и, в частности, анализу «темной стороны» ИИ. Хотя он признает, что у ИИ есть положительные стороны, он также указывает на риски, которые развитие ИИ может представлять для демократий». «Благодаря своим превосходным аналитическим способностям корпорации, занимающиеся ИИ, смогут стать экспертами в области правовых лазеек и регуляторного арбитража. И будет нелегко удержать их от участия в явно незаконных действиях, поскольку максимальное наказание, которое сдерживает человеческих руководителей и сотрудников — тюремное заключение — для ИИ не имеет значения. До сих пор корпорациями руководили люди, обладающие двойственной природой», — отметил влиятельный мыслитель, книги которого разошлись тиражом более двадцати пяти миллионов экземпляров. И добавил: «Человеческие генеральные директора — это корпоративные сущности, которые заботятся об успехе компании и боятся таких вещей, как банкротство. Но они также являются биологическими сущностями, которые еще больше заботятся о своей свободе и счастье и боятся провести десять лет в тюрьме». «Генеральный директор ИИ был бы чисто корпоративным образованием, и неясно, какие санкции могли бы его контролировать. Если бы ему грозило банкротство — что равносильно его исчезновению — он, по всей видимости, был бы готов на все, чтобы избежать такой участи». «Харари, израильтянин, не разделяющий политические взгляды Биньямина Нетаньяху, напомнил, что Милей в своей статье привел пример Голландской Ост-Индской компании, которая, по мнению президента, укрепила Амстердам как глобальный центр торговли и финансов, став пионером в области общества с ограниченной ответственностью. «Харари опроверг утверждение аргентинского президента. «Но последствия этой инновации ощущались гораздо острее не в Амстердаме, а в порту Джаякарта, на территории современной Индонезии. Когда Голландская Ост-Индская компания захватила Джаякарту в 1619 году, она сожгла город и построила на его месте новый. Ее назвали Батавией, и она стала столицей обширной азиатской империи, управляемой Голландской Ост-Индской компанией. Историки называют Голландскую Ост-Индскую компанию «корпоративным государством» — политическим образованием, управляемым частной компанией не в интересах своих подданных, а в интересах акционеров компании. Голландцы утверждали, что они — господствующая раса, которая благодаря якобы высшему интеллекту заслуживает права завоевывать и эксплуатировать местных жителей. «Но это было иллюзией, и в конце 40-х годов индонезийцы наконец обрели независимость после долгой и кровопролитной борьбы». «И он заключил: «Страны, наделяющие ИИ правосубъектностью, рискуют превратиться в нечто, аналогов чему в истории нет: не в корпоративное государство, а в государство ИИ, страну, народ которой, по сути, мог бы управляться нечеловеческими корпорациями, против которых восстать было бы еще труднее. Милей надеется превратить Буэнос-Айрес в новый Амстердам. Вместо этого он рискует превратить его в новый Батавию».