ChatGPT — лучший друг колумбийских чиновников, но они используют его без правил

«Мы должны оптимизировать с помощью искусственного интеллекта ответы на запросы, которые уже систематизированы», — предложил сотрудник государственной компании по реконструкции Боготы RenoBo. «Как гражданин, я бы очень расстроился, если бы на мой запрос, который является инструментом общения людей с государственными служащими, ответил бот», — ответил кто-то из его команды. Этот разговор похож на те, которые повторяются в других государственных учреждениях Колумбии, где использование инструментов искусственного интеллекта уже неизбежно. «Я считаю, что это может повысить эффективность государства, но также представляет собой вызов для процессов участия», — говорит сотрудник RenoBo, объясняя, что его команда уделяет много времени повторяющимся задачам. Перед лицом огромного объема работы, с тоннами публичных документов и официальных ответов, которые необходимо дать, неопределенное количество колумбийских государственных служащих использует искусственный интеллект, чтобы быть более эффективными, но его использование, особенно в бесплатных версиях, сопряжено с рисками. Помимо того, что они могут придумывать и выдумывать ответы, они могут предоставлять данные, которые затем используются для переобучения модели и попадают к третьим лицам. Предупреждения уже на столе. 5 ноября Верховный суд отменил решение, поскольку суд Синлехо основал свою аргументацию на двух несуществующих приговорах, и воспользовался этой возможностью, чтобы подтвердить то, что Конституционный суд сказал в 2024 году о галлюцинациях. После отмены решения сотрудники судебной ветви власти, которая уже имеет руководящие принципы по использованию ИИ, получили по почте руководство по эксплуатации. «ИИ — это всего лишь инструмент, который можно использовать, но он не может заменить ваше суждение», — говорится в тексте, в котором содержится просьба «отказаться от бесплатных инструментов». Эти предупреждения действуют для всего государства. EL PAÍS поговорил с 42 государственными служащими и подал более 20 запросов, чтобы понять, как они используют инструменты генеративного ИИ, такие как ChatGPT, Gemini или Deepseek, узнать их рекомендации по использованию и выяснить, проводят ли они обучение своих сотрудников. Некоторые учреждения разработали собственные инструменты, такие как Watson в прокуратуре или PretorIA в Конституционном суде, а другие провели обучение по ИИ. Но чаще всего чиновники используют коммерческие инструменты, такие как ChatGPT, для всех видов действий, от ответов на права на подачу петиций до создания иллюстраций. В большинстве случаев они не указывают такое использование явно, потому что считают это ненужным, если их попросили только о поддержке, или потому что это может поставить под сомнение их работу. Эта непрозрачность также заметна в том, что почти ни один из опрошенных источников не дает разрешения на цитирование, что не позволяет гражданам узнать, какие данные получают модели, какие решения принимаются на их основе и какие взаимодействия с государством опосредованы ИИ. «Вам понятен этот абзац?» — спрашивает сотрудница Конституционного суда, составляя приговор. «Помогите мне подготовить речь для этого населения», — просит подрядчик из администрации Касанаре в связи с визитом своего начальника. «Обоснуйте это подробнее и оставьте место, чтобы я могла приложить бюджет», — пишет подрядчик из мэрии Кукутильи, Северный Сантандер, чтобы арендовать дорожные конусы. «Я начала, потому что была очень загружена», — рассказывает она. «Давай, почему бы тебе не разгрузить себя?», — сказал ей однажды коллега по работе. «Ты вводишь свою информацию. Вы читаете, что получается, и, если есть ошибки, говорите, что хотите изменить». Несколько респондентов, которые начали видеть ChatGPT на экранах своих коллег, поделились похожими историями. «Люди обратились к ИИ, чтобы облегчить рабочую нагрузку, инстинктивно, потому что нет институциональной политики», — говорит подрядчик Национального управления по рискам. «Составление протокола с его помощью экономит часы жизни», — добавляет он и объясняет, что в UNGRD многие подрядчики проводят несколько месяцев в году без контракта, что перегружает тех, кто остается. В нескольких национальных и местных учреждениях ИИ стал ключевым инструментом для ответов гражданам и другим организациям. По словам опрошенных, он не только облегчает работу, но и улучшает качество составления многих документов. Но ее использование неравномерно, как и результаты. «Я нахожу ответы, которые явно были сделаны ChatGPT», — говорит сотрудник мэрии Боготы о письмах, отправленных другими учреждениями. Три законодательных советника сходятся во мнении, что они находят доклады и выступления, которые, по их словам, явно были написаны ИИ. «Я помню, как на одной выставке один человек читал — а в Конгрессе читать не очень-то приветствуется — и читал вопросы, которые ChatGPT задает в конце ответа», — рассказывает Даниэль Урреа, советник представителя Палаты Даниэля Карвалью. По его мнению, «использование ИИ в Конгрессе уже необратимо». Это мнение разделяют 10 законодательных советников, с которыми пообщался EL PAÍS. В судебной ветви власти ИИ также повсеместно используется. Исследование, в котором анализируются результаты трех опросов, проведенных среди более чем 4500 судебных служащих, опубликованное Хуаном Давидом Гутьерресом и Давидом Стивеном Перальта из Школы государственного управления Университета Лос-Андес, показало, что треть опрошенных использовали ИИ для облегчения своей работы, причем лидирует ChatGPT. Другое исследование, которое будет опубликовано в 2026 году Марией Аделаидой Себальос, профессором права Университета Лос-Андес, и Келли Гиральдо, исследователем Dejusticia, показало, что отношение к ИИ варьируется. Некоторые судебные служащие относятся к ней с энтузиазмом: «Они открыто заявляют, что используют ее, говорят о рисках, тратят свои деньги на обучение сотрудников в своих офисах, покупают продвинутые версии, чтобы спокойно ее использовать», — объясняет Себальос. Но другие, особенно чиновники более низких уровней, используют ее непрозрачно. По всей территории государства использование ChatGPT выходит далеко за рамки исследований и написания текстов. Подрядчик Национальных природных парков Амазонки использовал его для того, чтобы проект по наблюдению за птицами учитывал то, как коренные общины относятся к птицам. «Эти древние знания мы загружаем в ИИ», — рассказывает он. В секретариате правительства Кали Gemini помогает сопоставить предлагаемые социальные программы с потребностями, выявленными лидерами территорий. В этом разнообразии степень зависимости варьируется. Некоторые признаются, что уже не могут думать без ChatGPT, в то время как другие используют его очень редко, потому что не доверяют ему. «Этот человек сумасшедший. Однажды я спросил его о чем-то, показал своему боссу, мы проверили, и этого не было», — говорит подрядчик мэрии Боготы. Это галлюцинации, присущие моделям, которые работают, предсказывая следующее наиболее вероятное слово для завершения фразы в зависимости от контекста. А некоторые не используют их. «Я бы не стал готовить речь мэра с помощью ChatGPT», — говорит Хайме Санин, советник мэра Боготы Карлоса Фернандо Галана. «Речи передают видение правителя, и просить искусственный интеллект их подготовить — значит отказаться от этого видения. Это скорее этический, чем практический вопрос», — объясняет он. Однако отказ от его использования обходится дорого, потому что он уже настолько повсеместен, что некоторые чиновники чувствуют, что отстают, и их продуктивность будет поставлена под сомнение. «Люди старшего возраста, от 35 лет и старше, задыхаются от высокого уровня конкуренции», — заключает один из подрядчиков. В этой разнообразной картине наиболее отстает подготовка. Только 4 из 42 государственных служащих, с которыми пообщался EL PAÍS, говорят, что прошли обучение. «Люди не обращают на это внимания», — говорит подрядчик UNGRD об обучении. «Это как когда тебе говорят, что нужно прервать работу, чтобы сделать активную паузу», — добавил он. Хотя 12 из 18 организаций, ответивших на запрос, указывают, что проводят обучение, в основном оно сосредоточено на собственных инструментах, а не на коммерческих; и в основном это добровольное обучение, которое не охватывает всех сотрудников и подрядчиков и может закончиться как еще одно забытое письмо. Недостаток обучения заметен в том, что только один из более чем 40 опрошенных знал, что ChatGPT и большинство моделей генеративного ИИ имеют активированную опцию, которая, если ее не отключить, позволяет «улучшить модель для всех». Это означает обучение с помощью данных и документов, загружаемых любым пользователем, и позволяет инструменту использовать и раскрывать эту информацию при взаимодействии с другими пользователями. «Чат-бот всегда будет отвечать вам лоскутным одеялом, и одним из этих лоскутков могут быть тексты, на которых он был обучен», — говорит Гутьеррес, профессор из Анд. Это не гипотетическая ситуация. В марте 2023 года взлом программного обеспечения, подключенного к ChatGPT, привел к тому, что некоторые пользователи получили доступ к частям чатов других пользователей, включая такие данные, как имена пользователей, адреса электронной почты и платежную информацию. «Это данные людей из южного полушария, которые вы передаете частным компаниям из северного полушария. Здесь возникают очень интересные геополитические дискуссии», — говорит Себальос. Сегодня крупные коммерческие языковые модели могут обучаться на черновых версиях нормативных актов и других документах, которые находятся в процессе разработки, будут изменены или никогда не будут обнародованы. В более сложных случаях они имеют доступ к именам, номерам удостоверений личности, оценкам недвижимости, спискам жертв вооруженного конфликта и, в целом, к очень чувствительной информации. Помимо недостаточного обучения, существует очень мало политик использования инструментов ИИ, и еще меньше — коммерческих. Только шесть из 18 организаций объявили, что работают над разработкой руководящих принципов, в то время как у остальных 12 их просто нет. Поэтому сотрудники принимают меры предосторожности самостоятельно. «Я стараюсь не разглашать информацию из дел, имена истцов или названия судов», — говорит адвокат, работающая с судьей Конституционного суда. «Некоторые делают резюме дел и получают за это выговоры», — рассказывает человек, работающий в Специальной юрисдикции по вопросам мира. Отсутствие руководящих принципов в конечном итоге становится стимулом для сокрытия использования ИИ, потому что отказ от него уже не кажется возможным вариантом. Таким образом, нащупывая путь, они не перестают задавать себе вопросы. «Это здесь, и это неизбежно», — говорит одна из подрядчиков. «Я решила извлечь из этого максимальную пользу, но все равно чувствую пустоту».