Этика и алгоритмы: иллюзия нейтральности и опасность «невидимого ИИ», по мнению эксперта

На работе, в разговоре и даже в мобильном телефоне, который мы носим в кармане. Искусственный интеллект (ИИ) все сильнее проникает во все сферы повседневной жизни, переопределяя то, как мы взаимодействуем с технологиями. «Однако его внедрение не обходится без проблем: алгоритмические предубеждения, дезинформация и конфиденциальность данных пользователей — вот лишь некоторые из вопросов, которые уже доминируют в глобальной повестке дня». В интервью LA NACION Сесилия Данеси, директор магистерской программы по этическому управлению ИИ в Папском университете Саламанки и автор книги «Империя алгоритмов: инклюзивный, этичный ИИ на службе человечества», объясняет, почему важно быть частью этой новой технологической волны, но всегда с осознанием и ответственностью. -Каждая модель ИИ обучается на данных, а эти данные, в свою очередь, пропитаны ценностями, предрассудками и определенным взглядом на мир. Мы делегируем рабочие решения системам, которые могут усугубить уже существующее неравенство? -Да, это происходит в сфере труда и во всех других сферах. Самая большая опасность — это невидимый ИИ, то, чего мы не видим. Это происходит, когда ИИ определяет наше поведение, незаметно подталкивает нас к принятию решения, заставляя верить, что мы принимаем его абсолютно свободно, то есть по собственной воле, что во многих случаях не соответствует действительности. «Я ни в коем случае не против технологий. Я считаю, что нам нужно активнее внедрять ИИ, но делать это осознанно. Если мы заимствуем систему, пришедшую из других стран, с другими традициями, другой культурой и особенностями, и применяем её у себя, то, естественно, она будет на световые годы далека от того, что отражает наш мир и нашу идентичность. Поэтому вопрос не в том, нужно ли ИИ или нет, а в том, как мы будем его внедрять. — Возможно ли создать «нейтральную» модель ИИ? — Нет, это невозможно. Цель многих созданных моделей ИИ заключалась в том, чтобы в определенных сферах принимать решения, насколько это возможно, объективные. Речь не идет о борьбе с предвзятостью как таковой. Зачастую предвзятость позволяет нам выжить, и это нормально. На чем нам нужно сосредоточиться, так это на предрассудках, негативной дискриминации и поиске способов их предотвращения. Например, с помощью команд, которые разрабатывают технологии от начала до конца с учетом разнообразия, междисциплинарности и репрезентативных данных, а также с помощью оценки и надзора за алгоритмами. — В своей книге «Империя алгоритмов: инклюзивный, этичный ИИ на службе человечества» вы рассказываете, что алгоритмы и системы ИИ могут влиять на наши решения. Какие новые вызовы ставит эта ситуация с точки зрения демократии? «Вызовы огромны. Существует явление под названием «Манипуляция и вмешательство в информационную сферу из-за рубежа» (FIMI), под которым подразумевается влияние внешних субъектов — как частных, так и государственных — на принятие решений, политическую жизнь и демократические системы наших стран. «Цифровая экосистема Латинской Америки и Карибского бассейна имеет определенные уязвимости, которые делают нас благодатной почвой для таких атак, таких инцидентов FIMI. Одна из главных проблем заключается в недостатке осведомленности и знаний об этих явлениях. На самом деле, многие люди, если им говорить о дезинформации, иностранном вмешательстве, фальшивом контенте, не верят в это или не знают об этом. Мы полностью подвержены тому, что нам показывает алгоритм. Алгоритм покажет нам контент, который стал наиболее вирусным и может вызвать наибольшее вовлечение, а не тот, который содержит достоверную информацию, не тот, который позволит мне принять свободное и осознанное решение. Мы должны осознавать эти явления. — Расторжение соглашения между Anthropic и Пентагоном вызвало острую дискуссию об использовании инструментов массовой слежки, усиленных ИИ. Где должна проходить грань между безопасностью и нарушением конфиденциальности? — Грань должна быть, в этом нет сомнений. «Как только все общественные места будут оснащены камерами с функцией распознавания лиц, вернуться к прежней ситуации будет очень сложно, и нынешняя проблема заключается в том, как мы, и прежде всего судьи, будем толковать применение норм, которые не были созданы для той реальности, в которой мы живем сегодня, но которые необходимо обновлять и интерпретировать с учетом современных условий». Сегодня мы живем в демократических государствах, уважающих права человека, но давайте подумаем о том, что в будущем эти же технологии могут быть использованы авторитарными правительствами. «Нужно смотреть, какие дискуссии ведутся в мире, какие у них последствия, и думать не только о настоящем, но и о будущем». — На местном уровне правительство города Буэнос-Айреса работает над созданием технологического центра в самом центре города, который призван позиционировать столицу как региональный хаб инноваций. Каково ваше мнение об этой инициативе? «Все, что создает пространства для развития аргентинских талантов, мне кажется замечательным. Это необходимо, это и настоящее, и будущее. Вокруг таких хабов действительно должна сформироваться экосистема. Ни в университете, ни в школе нас не учат инвестировать и создавать бизнес-модели. «Идея создания хаба просто потрясающая, но у нас есть и целый ряд пробелов, и было бы неплохо создать площадки, которые помогли бы нам приобрести эти навыки». — Недавно министр по дерегулированию и трансформации государства Федерико Стурценеггер объявил, что правительство планирует направить в Конгресс законопроект, предусматривающий создание компаний, на 100 % управляемых ИИ. Может ли ИИ иметь правосубъектность? Какое влияние это окажет на общество?» — Закон может делать все, что скажет демократия. Препятствий нет, потому что это то, за что голосует народ через своих представителей. Однако насколько автономными и свободными будут эти компании? Часть регулирования должна заключаться в том, какие рамки деятельности мы им предоставим. Какую роль в этом будут играть люди? Ведь то, что юридическим лицом является компания, созданная с помощью ИИ, не означает, что ее представителем не может быть человек. «Цель этого заключается в том, что мы движемся в сторону ИИ-агентов, так почему бы нам не иметь столько ИИ-агентов, которые вносят вклад в экономику, производят и платят налоги, как люди? Это делает нас гораздо более конкурентоспособными на рынке». «Когда мы видим такого рода реформы, первое, что нам нужно сделать, — это сесть и посмотреть, что происходит в мире. Это не означает копировать и вставлять, но посмотреть, как мы это будем осуществлять. Нам нужно обновиться и сопровождать эту новую парадигму так, чтобы она максимально уважала нас и способствовала нашему росту как аргентинцев». «Также нужно обратить внимание на то, кто держит в руках ключ к ресурсам, позволяющим нам развивать технологии. В этом плане одним из ключевых моментов является все, что связано с редкоземельными элементами. Надо сосредоточиться на этом, а не только на разработке конкурентоспособного алгоритма. То же самое касается космоса и квантовых вычислений. Как страна, мы ведем эти дискуссии или просто смотрим на алгоритм, который сделал хороший прогноз? Есть нечто гораздо более глобальное — это то, где находится эпицентр бури, потому что именно это позволит нам забить гол в будущем».