Эффективные тирании

Говорят, что искусственный интеллект заменит многие повторяющиеся, скучные, грязные или опасные виды работы. Теоретически, это хорошо (что будут заменены не только эти виды работы, а что делать с людьми, которые будут заменены в таких странах, как наша, это уже другой вопрос). Кроме того, ИИ может быть очень полезен для ускорения и упрощения процессов, что, без сомнения, может стать прорывом для более эффективной работы многих организаций, офисов или служб. Социолог Макс Вебер описал необходимость бюрократии в демократиях из-за ее (в идеале) процедурного, беспристрастного, рационального, меритократического, предсказуемого характера, который имеет четкую иерархию и правила. С другой стороны, Вебер также предупреждал, что бюрократия может привести к «железной клетке», в которой мы оказываемся пойманными в безличные системы, которые ставят правила выше ценностей, эмоций или индивидуальности. Ханна Арендт описала бюрократию как «правительство никого», в котором ни один конкретный человек не несет ответственности. В Уругвае все мы жалуемся на то, что бюрократия неэффективна или что государственных служащих слишком много. Не говоря уже о том, что я уже три месяца жду, когда придут починить тротуар, на котором упало дерево из-за некомпетентности OSE, мой опыт общения с различными государственными учреждениями и компаниями не был особенно плохим. Я думаю, что одной из причин этого является то, что мне посчастливилось иметь дело с людьми, которые выполняли свою работу, что, возможно, не является нормой. Кроме того, многие вещи можно сделать заранее или прямо онлайн. Это не умаляет того факта, что оформление документов — это процесс, который часто вызывает разочарование. Как и во всем, наверняка есть много вещей, которые можно улучшить, и в этом случае использование систем искусственного интеллекта с людьми, готовыми помочь, было бы очень полезно. Но я не совсем оптимистичен и с подозрением отношусь к разговорам о машинах, автоматизации или искусственном интеллекте как о панацее, берущей на себя (безответственность) за процессы и услуги, которые выполняют люди. Хотя во многих случаях они находятся в плохом настроении, не хотят работать, сонны или что-то еще, и им не помешала бы доза того, что социолог Арли Хохшильд определила как «эмоциональную работу», то есть вовлечение и регулирование эмоций как часть работы, бюрократы, с которыми я имел дело, делали то, что должны были делать. Плохо или хорошо, как говорит Пол дю Гей в своей похвале бюрократии, в этой системе дела делаются, пусть и несовершенно. Я сомневаюсь, что ИИ является волшебным решением. Проблема, которую я хочу поднять, заключается в том, что ИИ, заменяющий людей, может усилить «правительство никого» Арендт и ту «железную клетку», которую описал Вебер. Часто бывает, что в технических системах человек попадает в замкнутый круг, из которого невозможно выбраться, а человек с доброй волей решил бы эту проблему в мгновение ока. Попытаться выполнить какую-либо процедуру с какой-либо авиакомпанией, выходящую за рамки меню опций веб-сайтов, невозможно (понадобится много удачи, если у вас есть вопрос, требующий каких-либо нюансов и не решаемый в полях, определенных системой). Недавно автор Улисес Мехия определил эти системы как «бюрократический искусственный интеллект», указав на тенденцию, что такие взаимодействия распространяются на все сферы общества и регулируются принципами, которые социолог Джордж Ритцер назвал «макдоналдизацией»: эффективность, вычислимость, предсказуемость и контроль. Это ведет к антидемократическому и бесчеловечному миру. Также верно, что иногда люди явно лишние. Я помню телепрограмму BBC под названием Little Britain, в которой был скетч, показывающий сотрудницу банка с компьютером, которая, отвечая на вопросы клиентов, набирала на клавиатуре и отвечала «компьютер говорит нет» (computer says no). Конечно, такое бывает, но по крайней мере с живым человеком есть шанс, пусть даже минимальный, завязать человеческие отношения, в которых можно растопить лед шуткой, комментарием о Пенароле или чем-то еще. Человек способен понимать и (используя клише) сопереживать. Небольшое отступление: существуют системы искусственного интеллекта, которым поручают проведение собеседований при приеме на работу. Таким образом, исключается любая возможность проявления эмпатии и тех серых оттенков, которые делают жизнь человека богатой. Кажется, что мы сами смотрим на себя в зеркало машины, превращаясь в нее, с иллюзией эффективности и объективности. Мы стали самореализующимся пророчеством метафоры, которая представляет нас как процессоры информации. Технические системы — это «никто», к кому нельзя обратиться. Арендт написала в своей книге о насилии: «В полностью развитой бюрократии не остается никого, с кем можно было бы поспорить, кому можно было бы предъявить жалобы, на кого можно было бы оказать давление власти. Бюрократия — это форма правления, при которой все лишены политической свободы, власти действовать; ведь правление Никого — это не отсутствие правления, и там, где все одинаково бессильны, мы имеем тиранию без тирана». Поэтому нужно быть осторожными, чтобы ИИ не стал вершиной бюрократии. Безусловно, он может облегчить нам многое, но нужно остерегаться тирании во имя эффективности.