Демократия против искусственного интеллекта: кто должен принимать решения?, Дэниел Энсинас
Новости Перу
«Мир изменился, я чувствую это в воде, я чувствую это в земле, я чувствую это в воздухе. Многое из того, что было, потеряно, потому что никто не живет, чтобы помнить об этом». За два года, прошедшие с момента появления на рынке ChatGPT и других моделей искусственного интеллекта (ИИ), мы пережили тихую, но глубокую трансформацию, которая изменила то, как мы работаем, учимся и взаимодействуем с другими людьми, сильно повлияв на нашу повседневную жизнь. Многие профессионалы полагаются на эту технологию при написании электронных писем и рабочих отчетов. В области науки о данных, где я работаю, многие полагаются на ИИ для разработки своих кодов и проведения сложного статистического анализа. В сфере образования студенты все чаще полагаются на эти алгоритмы при написании итоговых работ и сдаче экзаменов. В результате преподаватели уже не так беспокоятся о плагиате, но должны определять, были ли тексты, которые мы читаем, созданы студентом или машиной. Но влияние ИИ не ограничивается профессиональной и академической сферой. Во времена, когда социальные сети так важны, темы в Twitter (или X) могут быть быстро отредактированы с помощью ИИ. А выбор лучших фотографий для Instagram еще никогда не был таким простым. Вместо того чтобы полагаться на человеческий глаз, мы можем загрузить свои снимки в ChatGPT и спросить у него, какие из них лучше, как их отредактировать и какое описание включить, чтобы передать нужную нам «вибрацию». Некоторые продвинулись в отношениях с искусственным интеллектом еще дальше. Для посещения мероприятий или вечеринок их любимый чатбот может генерировать образы с идеями нарядов и давать рекомендации по подбору аксессуаров. Другие используют его для оптимизации занятий в спортзале, улучшения ухода за кожей или контроля за питанием. Несколько дней назад один мой близкий друг признался мне, что теперь он меньше волнуется, общаясь со своими собеседниками в Tinder, потому что у него есть своего рода индивидуальный совет, как им отвечать. Другой человек рассказал мне, что загрузил все разговоры со своим «почти-что» - той двусмысленной ситуацией между дружбой и романтикой, которой изобилуют новые поколения, - и попросил ChatGPT проанализировать токсичные паттерны в динамике, обнаружив, что (предположительно) у нее было больше «красных флажков», чем у ее собеседника. Другими словами, принятие личных решений, особенно среди молодых людей, все больше зависит от искусственного интеллекта. Но эта новая роль технологий в нашей жизни поднимает тревожные вопросы, выходящие за рамки индивидуального: если ИИ уже стал своего рода оракулом XXI века для принятия столь многих повседневных решений, то почему мы думаем, что он не повлияет на наши коллективные решения? Если мы все больше готовы делегировать свою автономию алгоритмам, что произойдет с демократией, которая зависит от обсуждения конкурирующих интересов и предпочтений, а также от народного волеизъявления, определяющего наш курс как сообщества? Будем ли мы продолжать ценить дискуссии и различия или поддадимся искушению позволить якобы объективным машинам принимать решения на основе холодных, казалось бы, не вызывающих возражений данных? Эти вопросы кажутся мне более актуальными, чем слишком оптимистичные или апокалиптические видения ИИ. С одной стороны, некоторые, например соучредитель Mosaic Марк Андреессен, утверждают, что ИИ - это «лучшее из всего, что создала наша цивилизация». С другой стороны, такие мыслители, как историк Юваль Ной Харари, предупреждают, что ИИ приведет нас к вымиранию как вида. Однако у этих позиций есть одна общая черта: они обе помещают нас во временную перспективу и упускают из виду, как ChatGPT и ее конкуренты в отрасли актуализируют уже существовавшие вопросы о взаимоотношениях между демократией и специализированными знаниями. Она существовала всегда. От предложения Платона о царях-философах, которые должны править благодаря своему интеллектуальному превосходству, до критики опекунства ученым Робертом Далем. Эта позиция предполагает, что люди неспособны защищать свои интересы и нуждаются в опекунах, принимающих за них решения. Перуанский политолог Эдуардо Даргент также в некоторой степени рассматривает это противоречие в своей работе о хрупких демократиях Латинской Америки. Не клеймя современных технократов как антидемократических и не отрицая, что они необходимы для решения сложных проблем современного мира, Даргент подчеркивает, что чрезмерная автономия этих незаменимых акторов может противоречить идеалам совещательности, демократического участия и гражданского контроля. Иными словами, политика, сведенная к экспертизе и притворству объективности, может открыть путь к авторитаризму. В мире, где машины обещают разнообразные решения для нашей жизни, баланс между объективным знанием и демократией становится как никогда актуальным. Американский философ Майкл Сэндел попал в самую точку. Настоящая проблема заключается не в том, что ИИ делает невозможным различение между человеческими и искусственными творениями. Очевидно, что распознать ложь в мире, где используются сверхреалистичные поддельные аудио-, фото- и видеоматериалы (глубокие подделки), будет бесконечно сложнее. Что еще более тревожно, так это то, что это различие может перестать нас интересовать, если оно нам полезно. Я не преувеличиваю. Давайте подумаем о некоторых примерах. В последние годы хитом стал ряд песен, созданных с помощью ИИ, которые идеально имитируют голоса популярных городских исполнителей. Создание Tiktoks с помощью песни «Mi primera chamba» с голосом Эладио Карриона стало вирусным. Кроме того, в ближайшие дни миллионы пользователей Spotify будут с нетерпением делиться своими «Wrapped» - ежегодной традицией, в рамках которой мы перечисляем все, что слушаем на платформе. Не то чтобы ИИ был особенно вовлечен в этот процесс, но он служит напоминанием о том, что такие опасные вещи, как мониторинг наших данных, могут быть отмечены, когда мы находим их интересными или полезными. Нетрудно представить, что перед лицом гнили, которой полна политика таких стран, как Перу, мы будем соблазнены делегировать наши коллективные решения ИИ. Это уже случалось в прошлом с технократическими решениями. Давайте задумаемся: так ли сложно убедить наших граждан в том, что машинный интеллект превосходит авторитарную тупость, в которой мы живем? Решающим моментом является то, что все это не является демократическим обещанием. Если мы и должны чему-то научиться благодаря развитию искусственного интеллекта, так это тому, что нам нужно больше ценить человеческое состояние, полное субъективности, предвзятости и ошибок. В условиях институционального демонтажа, который переживает наша страна, я убежден, что нам нужно не меньше, а больше технического потенциала и специализированных знаний для решения наших проблем. Но нам также нужна более гуманная политика, признающая значимость различий и конфликтов, чтобы найти такие средства борьбы с нашими падениями, которые не будут хуже болезни, Телеграм-канал "Новости Перу"