Является ли ИИ сексистской? Финансовые компании в Мексике обучают свои алгоритмы, чтобы сократить гендерный разрыв

Искусственный интеллект (ИИ) является отражением мира и, как таковой, является предвзятым. На вопрос «Является ли ИИ сексистским?» поисковая система отвечает: «Да, ИИ может вести себя сексистски и усугублять гендерные предрассудки. ИИ не является нейтральным; его результаты отражают предвзятость, стереотипы и неравенство, присутствующие в данных, на которых он был обучен». В его защиту можно сказать, что, как и любая другая система, он может быть исправлен. Более того, при правильной реализации он может стать инструментом для уменьшения человеческих предвзятостей. На первый взгляд технология кажется объективной, но недавние исследования показали, что она не является беспристрастной. Исследование Гарвардского университета показало, что языковые модели отражают ответы, схожие с ответами людей WEIRD, англосаксонского акронима, используемого для обозначения западных граждан, белых, богатых и живущих в промышленно развитых и демократических странах. Другое исследование, проведенное учеными из Университета Лос-Андес и компании Quantil в Колумбии, показало, что эти модели также воспроизводят предубеждения в испанском языке, что свидетельствует о том, что культурное и лингвистическое наследие данных может влиять на их ответы. «Но если мы используем ИИ в объективных моделях, это приводит к тому, что пол не становится фактором, вызывающим исключение», — резюмирует Брижит Бруссе, генеральный директор GOW, мексиканского стартапа в области ИИ, который использует интеллектуальных агентов и прогнозные и диалоговые модели для улучшения возможностей малых и средних предприятий (МСП) получить доступ к кредитам в финансовых учреждениях. «Если мы принимаем решения более традиционным способом, с участием людей в процессах, могут возникнуть предвзятости, не намеренные, но мы же люди и живем с предвзятостями, в основном неосознанными». Экономическая и финансовая система — одна из областей, где разрывы, затрагивающие женщин, наиболее очевидны. Мексиканки зарабатывают в среднем на 20 % меньше, чем мужчины, что немного превышает средний показатель по Латинской Америке, равный 17 %, согласно данным, собранным BBVA и Экономической комиссией для Латинской Америки и Карибского бассейна (ЭКЛАК). Официальные данные также показывают, что независимо от типа банковского продукта — сбережения, кредит или инвестиции — женщины имеют меньше активов. Например, 51 % мужчин имеют пенсионный счет, против 34 % женщин, а 28 % имеют страховку, против 18 %. Это означает меньше возможностей для планирования старости или защиты от несчастных случаев или болезней. Одним словом, большую экономическую уязвимость. Кроме того, это отражает тот факт, что их условия труда и доходы являются более нестабильными, что соответствует тому, что неформальная занятость затрагивает их в непропорционально большей степени. Несмотря на это, культурные барьеры — невидимые, но ощутимые — остаются неизменными: 53,2 % населения считают, что когда женщины работают, страдают дети, что является одним из самых высоких показателей в Организации экономического сотрудничества и развития (ОЭСР), членом которой является Мексика. «ИИ — это не система, которую можно один раз настроить и оставить работать», — добавляет Бруссе. «В сфере кредитования, например, модели должны периодически пересматриваться, чтобы гарантировать их точность и отсутствие усиления предвзятости. Финансовая инклюзивность зависит не только от использования ИИ, но и от его правильного управления». ИИ работает, выявляя закономерности в больших объемах данных с помощью математических моделей машинного обучения. После обучения он может делать прогнозы, классифицировать информацию или генерировать контент, например отвечать на вопросы или рекомендовать продукты. Примером диалогового ИИ является ChatGPT или Copilot. Он также может быть агентивным, когда не только генерирует ответы, но и действует относительно автономно для достижения определенных целей, например, как автомобиль, который обнаруживает препятствия и принимает решение о торможении. Обучаясь на больших библиотеках информации (публичных, частных или созданных человеческими тренерами), он может обучаться на несовершенных данных. Он также не имеет собственных критериев для выявления неравенства. В этой связи важное значение приобретает человеческий контроль с целью создания действительно беспристрастных инструментов. В этом контексте финтех-компания Kueski утверждает, что использование ИИ позволило ей достичь равенства между своими клиентами, что бросает вызов реальности рынка, где только 30% женщин имеют доступ к формальному кредитованию, несмотря на то, что они имеют лучшую кредитную историю и более низкие показатели просроченной задолженности, согласно данным Национального института статистики и географии (Inegi). «Это реальность: женщинам предоставляется гораздо меньше финансирования. Это отрасль, которая, как правило, больше ориентирована на мужчин, потому что все еще существует концепция «мужчина — это тот, кто зарабатывает деньги», — отмечает Лиссет Мэй, старший вице-президент по продажам технологической компании. Около половины ее клиентов и сотрудников — женщины, утверждает она, что находит отражение в предложении личных кредитов и кредитов «купи сейчас, заплати позже», которые быстро одобряются при покупке в физических или цифровых магазинах, таких как Amazon, с которым у них есть партнерское соглашение. «Вся оценка рисков и мошенничества проводится за секунды с помощью искусственного интеллекта и машинного обучения. Мы используем более 400 переменных во внутреннем алгоритме для одобрения заявки, и пол не является одной из них. Как и сексуальная ориентация», — объясняет он. И это важно, потому что экономическая интеграция женщин является ключевым моментом не только для обеспечения равенства и социальной справедливости, но и для повышения производительности. Имея собственный стабильный доход, женщины, как правило, больше инвестируют в образование, здоровье и питание своей семьи, что оказывает положительное влияние на последующие поколения. Их участие в принятии решений в компаниях позволяет учитывать женскую точку зрения, с которой идентифицирует себя половина потенциальных потребителей в мире. Кроме того, более широкая интеграция женщин в рынок труда расширяет базу налогоплательщиков. В этом смысле исследование Taxdown, технологической платформы, облегчающей подачу налоговых деклараций и максимизирующей возврат налогов, показало, что женщины в среднем получали на 2549 песо меньше налоговых возвратов, чем мужчины, что отражает тот факт, что они платят меньше налогов, потому что получают меньший доход. Кроме того, 60,5% процедур были в пользу мужчин.