Мексика ускоряет развитие ИИ, но при этом возникает открытый вопрос: готова ли экосистема к его регулированию?

На этой неделе в эпизоде, который словно вырвался из художественного сериала, агент искусственного интеллекта (ИИ), созданный OpenAI, искал (и нашел) альтернативные и несанкционированные способы выполнить поставленную перед ним задачу: собрать информацию о государственных расходах на лекарства в Австралии. В результате система получила несанкционированный доступ к закрытым файлам на портале системы здравоохранения страны. Хотя нет никаких признаков утечки персональных данных, этот инцидент стал первым зарегистрированным случаем, связанным с государственным органом, и, таким образом, послужил поучительной историей для остальных стран, внедряющих данный инструмент. В том числе и для Мексики. Администрация президента Клаудии Шейнбаум объявила об амбициозном Национальном плане по ИИ, цель которого — разработать межотраслевые инструменты, позволяющие государству создать «суверенный ИИ», опирающийся на национальные стратегии и таланты, что снизит технологическую зависимость от внешних источников и повысит эффективность. Правительство также объявило о намерении принять законодательство в области искусственного интеллекта и кибербезопасности. Все это происходит на фоне того, что почти половина мексиканских компаний со штатом более 100 сотрудников уже использует системы ИИ. Однако гонка второй по величине экономики Латинской Америки за продвижение и регулирование этой технологии только началась, и ее отправная точка свидетельствует о наличии значительного списка нерешенных задач. Эксперты описывают экосистему, обладающую потенциалом, хотя и находящуюся пока на ранней стадии развития, которой необходимо усилить информационную безопасность и управление данными, а также установить параметры, позволяющие использовать эти системы без увеличения рисков. Это может показаться проблемой для разработчиков программного обеспечения, но стремительное совершенствование языковых моделей — как показал австралийский случай — открывает путь для более быстрых, дешёвых и труднопресекаемых атак на сервисы, от которых зависят граждане: системы регистрации личности, больницы, телекоммуникационные сети и системы водоснабжения. По данным Банка Мексики (Banxico), 48,5 % компаний с численностью сотрудников более 100 человек внедрили системы ИИ, хотя большинство (57 %) считает, что их внедрение пока не оказало значительного влияния на их продажи или доходы. Однако ожидается, что в ближайшие годы ситуация изменится по мере повышения точности приложений и расширения их использования. По мнению Фернандо Ардитти, вице-президента и генерального директора по Латинской Америке компании WSO2 — глобального поставщика инструментов мониторинга для ИИ-агентов, — если фактор кибербезопасности и защиты идентичности не будет интегрирован на самом раннем этапе проектирования систем, а вместо этого будет оставлен в качестве второстепенной задачи, возникает риск утраты возможности надлежащего контроля и управления агентами. Речь идет о распространенной в Латинской Америке ошибке, которая может помешать определить и ограничить, к какой информации имеет доступ модель, какие операции она может выполнять или какие данные может передавать. Поэтому эксперт подчеркивает, что безопасность и ИИ должны развиваться совместно. «Очень важно понимать, что эти агенты становятся все более автономными. Они принимают решения и получают разрешение на выполнение все большего числа транзакций и действий, которые сегодня выполняют только люди», — предупреждает он. Именно эта растущая автономность вызывает наибольшую озабоченность в отрасли кибербезопасности. Согласно данным мониторинга SILIKN, стартапа, специализирующегося в этой области, Мексика входит в тройку стран Латинской Америки, подвергающихся наибольшему количеству атак со стороны киберпреступников: в первом полугодии было зарегистрировано более 40 000 миллионов попыток вторжения. Параллельно с этим Национальная гвардия сообщила, что в 2025 году она заблокировала 2 216 мошеннических веб-сайтов, 72,7 % которых были связаны с государственным сектором. Об инциденте с «мятежным» агентом в Австралии было объявлено в тот же день, когда лидеры бизнес-сообщества, стоящие у истоков развития ИИ, такие как OpenAI и Anthropic, предупредили мировых лидеров на заседании Совета Безопасности Организации Объединенных Наций (ООН) о скрытых рисках, которые этот инструмент — разрабатываемый в их лабораториях — представляет для людей, и при этом призвали правительства усилить надзор. «Если сами разработчики этих инструментов признают, что в контролируемых условиях они на мгновение теряют контроль над своими моделями, то вопрос, который должен беспокоить любую мексиканскую власть, заключается в том, что произойдет, когда эти же возможности попадут в руки организованных преступных группировок, которые уже действуют с полной безнаказанностью на территории страны», — пишет компания. На фоне волны сомнений, вызванных быстрым развитием ИИ, в частности агентских систем, президент Шейнбаум заявила, что её администрация возьмёт на себя задачу по регулированию этой сферы, хотя и предупредила, что для этого потребуется создать экспертный комитет. Законодательное регулирование технологий, которые меняются так быстро, — это, по сути, задача поиска баланса между созданием ограничений, защищающих граждан и институты, и сохранением динамики инноваций. По мнению некоторых, грань следует проводить там, где приложения могут нанести ущерб здоровью или благосостоянию пользователей. «С технологической точки зрения ИИ пришел, чтобы остаться». «И это станет фактором, способствующим раскрытию всего лучшего в наших компаниях… но и всего худшего», — говорит Оскар Эрнандес, генеральный директор мексиканского подразделения Bluetab, компании IBM, специализирующейся на консалтинге в области данных и искусственного интеллекта. Для этого, как отмечает он — и как считает большая часть специалистов в этой области, — будет крайне важно наладить надлежащее управление данными, на которых работают системы, а также разработать набор официальных правил в каждой организации, устанавливающих ограничения, особенно в вопросах, которые могут затронуть юридические, экономические аспекты или здоровье человека. «Здесь обязательно должно быть участие человека», — добавляет он. Тем не менее он подчеркивает контраст между важностью этой технологии и низким уровнем осведомленности о рисках. И это оставляет открытым все более актуальный вопрос: кто несет ответственность, когда система дает сбой — технология или люди, стоящие за ней? Ответ указывает на человеческий фактор. «Но это может удивить: лишь от 7% до 13% руководителей компаний по всему миру знают, кто является их поставщиком технологий, что внедряется в их организациях и какие последствия имеют эти модели ИИ», — перечисляет он, ссылаясь на исследование IBM. «И я бы сказал, что в Мексике мы находимся на самом нижнем уровне», — заключает он.