Как разгорелся спор между Хавьером Милей, Ювалем Харари и руководителем отдела искусственного интеллекта Microsoft по поводу компаний, управляемых искусственным интеллектом

«Пусть Буэнос-Айрес станет для искусственного интеллекта тем, чем Амстердам был для эпохи мореплавания: местом, где правовое воображение поспело за технологическим прогрессом, и мир изменился», — представил Милей в своем предложении. «Однако этот проект вызывает беспокойство у экспертов: кто же несет ответственность за действия компании, которой не руководят люди? В предложении Милеи говорится, что она должна будет отвечать за ущерб, который могут нанести эти системы, но не уточняется, как именно. «По мнению Рауля Мартинеса Фазалари, юриста-специалиста в области технологий, проект правительства является обоснованным с юридической и теоретической точек зрения. «Чтобы создать ИИ-субъект, отличный от человека, кто-то должен создать промпт, то есть дать ИИ цель и «способность» делать, думать и выполнять что-то. Государство посредством регулирования предоставит ему юридическое признание», — пояснил он LA NACION. И добавил: «Мне это не кажется нелепым, это очень авангардно». «Тем не менее, он подчеркнул важность того, чтобы такие компании регулировались «точно так же, как права и обязанности юридического лица». «Необходимо устранить правовую лазейку», — подчеркнул он. В этом контексте эксперт указал на вопрос о том, кто будет владельцем этих компаний, как на еще один момент, который следует учитывать: «Кто является владельцем программы? «Компания, которая это сделала, те, кто предоставил данные для обучения ИИ, или вы, кто ввел запрос в программу?» Хавьер Паллеро, специалист по правам, технологиям и обществу, высказал мнение, что эта мера — это как «хотеть летать, не научившись бегать». «У нас даже нет хороших законов о защите данных, а мы уже думаем, как заставить робота автоматически заключать договоры, и насколько это безопасно?», — задал вопрос он. «По этой причине он утверждал, что, хотя это и может быть «юридически осуществимо», на самом деле «нереально». «Я считаю это сложным, потому что это затрагивает множество областей, выходящих за рамки того, как создается и как работает компания. Необходимо, чтобы эта компания могла нести ответственность за причиненный ущерб, могла адекватно взаимодействовать с другими участниками экономики, могла нести гражданскую и уголовную ответственность за причиненный ущерб», — пояснил он. «Каждый из этих аспектов касается «алгоритмической прозрачности». «Трудно тщательно проверить, как это работает и как принимаются решения. Это означает передачу ИИ полномочий принимать решения в отношении имущества и прав людей», — сказал он. Кроме того, он подверг сомнению понятие «автоматизированный», поскольку вся ИИ работает — прямо или косвенно — под управлением человека. «Мне это кажется попыткой бросить камень, спрятав руку. Полной автономии не существует. Должна быть четкая схема ответственности», — уточнил он. «В этом ключе он заявил, что использование этих технологий в качестве инструментов было бы лучшей альтернативой». «Можно экспериментировать с тем, как это можно применить в экономике, но я не знаю, стал бы я предоставлять этим организациям столь широкую свободу действий», — резюмировал он. В социальных сетях авторство проекта приписывают Эмилиано Каргиеману, предпринимателю и соучредителю Sur Energy — компании, которая подписала письмо о намерениях с OpenAI по строительству дата-центра искусственного интеллекта в Патагонии — из-за текста, опубликованного им в апреле этого года, в котором он исследует концепцию автономных юридических лиц (Autonomous Legal Entities: A Polycentric Framework for Machine Agency). «Однако Каргиеман пояснил LA NACION, что его отношение к этой инициативе было «чисто интеллектуальным, а не политическим». Он поддерживал диалог с министром по дерегулированию и трансформации государства Федерико Стурценеггером и депутатом Сабриной Аджмечет, чтобы поделиться своими идеями. «Затем мне передали какую-то предварительную версию проекта, по которой я высказал свои замечания», — отметил он. «Одним из основных моментов концепции Каргимана является необходимость включения контролирующих органов, страхования, ответственного комитета из людей и «kill-switch» для «автоматической приостановки операций при превышении определенных пороговых значений риска», — пояснил в X программист, преподаватель и журналист, специализирующийся на науке и технологиях, Максимилиано Фиртман. Тем не менее, правительство не включило эти характеристики в свой проект. «Я считаю увлекательным, что Аргентина может стать пионером в этой столь актуальной дискуссии», — отметила Каргиман. «В статье, опубликованной в журнале Nature и перепечатанной в его личном блоге, Сулейман объясняет, что ИИ не обладает сознанием и не является автономным, и что пользователи не должны путать эту имитацию интеллекта с настоящим интеллектом; а предоставление им возможности действовать без контроля может привести к серьезным проблемам. «Необходима новая концептуальная основа для защиты интересов человека по мере развития ИИ. По мере того как системы ИИ работают все более автономно, они должны оставаться в основном подотчетными людям и служить благополучию человечества. ИИ-агенты не должны иметь больше прав и свобод, чем ноутбук, — утверждает Сулейман в своей статье. — Разработчики должны активно устранять иллюзию сознания из наших продуктов». «После твита Харари президент Хавьер Милей ответил израильскому писателю сообщением в соцсетях. «Дорогой @harari_yuval, большое спасибо за участие в этой увлекательной и важной дискуссии. Мы находимся на заре новой эры, которая, как мне кажется, ставит нас в положение, не столь отличное от того, которое вы сами так хорошо описали в *Sapiens* и других своих книгах: это время, когда люди используют вымыслы для организации нашей коллективной работы и извлечения выгоды из технологий. Сейчас, как никогда ранее, нам нужен весь наш интеллект, чтобы создать структуру, которая позволит нам воспользоваться невероятными возможностями, открывающимися перед нами. «Я уже готовлю ответ, чтобы развеять твои опасения по поводу того пути, который я предложил на прошлой неделе!», — написал Милей.