«Придётся действовать по обстоятельствам»: предупреждение бывшего ключевого деятеля GACH о новом кризисе в сфере здравоохранения

Математик и инженер Фернандо Паганини предупредил, что в Уругвае до сих пор нет научной структуры, существенно отличающейся от той, что существовала во время пандемии COVID-19, и что в случае новой чрезвычайной ситуации в стране, вероятно, «придётся вновь импровизировать механизмы реагирования». В интервью En Clave País, стриминговому сервису газеты «El País», проректор по научной работе Университета ORT Уругвая и бывший координатор Почетной научной консультативной группы (GACH) также предупредил о рисках, связанных с искусственным интеллектом (ИИ), развитие которого он счел «трудным для прогнозирования», и подчеркнул необходимость «улучшения условий для развития научных исследований в Уругвае». «Если бы завтра возникла чрезвычайная ситуация, пришлось бы в значительной степени снова импровизировать», — заявил он, оценивая готовность уругвайской научной системы. Хотя он признал, что со времени пандемии произошли некоторые изменения и были созданы новые учреждения, он считает, что в плане участников и способов их взаимодействия ситуация пока не изменилась существенно. Паганини входил в состав GACH — группы учёных, которая консультировала правительство во время чрезвычайной ситуации в области здравоохранения. Вспоминая этот опыт, он подчеркнул, что успех был связан со способностью собрать специалистов из разных дисциплин и достичь консенсуса, полезного для страны, даже когда они не всегда разделяли одинаковые позиции. В этом процессе он отметил решающую роль лидерства Рафаэля Ради. Однако он считает, что модель GACH не обязательно можно повторить в других обстоятельствах. Срочность ситуации, связанной с пандемией, мобилизовала исследователей, которые отложили в сторону другие приоритеты, чтобы сосредоточиться на этой исключительной ситуации. «Что касается более долгосрочных проблем», — отметил он, — «было бы целесообразно опираться на заранее сформированные научно-консультативные группы, а не полагаться на добровольную и разовую мобилизацию при возникновении чрезвычайной ситуации». Исследователь также вспомнил о роли Гонсало Мораторио, скончавшегося за неделю до интервью, которого он назвал пионером в борьбе с пандемией. Он подчеркнул, что Мораторио начал работу ещё до создания GACH, когда осознал необходимость разработки тестов на COVID-19 в Уругвае и сумел скоординировать эту работу с Институтом Пастера. «Его роль была очень важной, и мы с большой теплотой вспоминаем его», — сказал Паганини, подчеркнув важность своевременных действий во время чрезвычайной ситуации в области здравоохранения. По его словам, «своевременность принятия решений могла определить, продолжит ли вирус распространяться или нет». Оценивая национальную научную систему, он отметил, что «Уругвай укрепил свои позиции с момента восстановления демократии как по количеству исследователей, так и по разнообразию изучаемых областей». Тем не менее он отметил, что «ещё предстоит проделать работу по повышению профессионализма и улучшению условий труда». «Мы находимся на полпути», — подытожил он. Паганини посвятил значительную часть интервью анализу развития искусственного интеллекта и сложностей, связанных с определением его пределов. По его словам, «современные модели значительно улучшились по сравнению с предыдущими версиями, в которых было проще обнаружить ошибки или выдуманные ответы». «Пределы возможностей этой технологии пока неясны», — заявил он. Чтобы проиллюстрировать эту перемену, он рассказал, что некоторое время назад обращался к инструменту ИИ с вопросом о математической теореме. Система утверждала, что она верна, и предлагала доказательство, которое казалось логичным, но, проверив несколько шагов, он и его коллега обнаружили, что рассуждения были неверными. Когда они указали на это, система «признала ошибку и дала объяснение, почему теорема была неверна». Паганини отметил, что «такие тонкие ошибки становится всё труднее обнаружить». В недавних беседах на технические темы из своей области он сказал, что «практически не обнаруживает ошибок» и что «обмен мнениями всё больше напоминает разговор с другим экспертом». Это улучшение, в сочетании со скоростью появления новых версий, вызывает у него неопределённость относительно того, на что будет способна эта технология в ближайшие годы. Несмотря на сомнения, он считает, что «использование этих инструментов становится неизбежным в научных исследованиях, особенно потому, что они позволяют ускорить выполнение задач, которые раньше отнимали много времени». В качестве примера он привёл «поиск библиографической информации: исследователю может потребоваться проанализировать десятки ссылок, чтобы оценить статью или определить, была ли та или иная идея уже разработана». «ИИ позволяет получить первоначальное представление об этом материале и сформировать мнение о его качестве за меньшее время», — отметил он. В своём случае он рассказал, что использовал эти инструменты для анализа научной статьи, содержащей около 50 ссылок. Вместо того чтобы искать и читать каждую работу по отдельности, он вел диалог с ИИ, что позволило ему прийти к обоснованному выводу о качестве оцениваемого материала. В то же время он настаивал на том, что окончательная проверка должна оставаться в руках исследователя. «Окончательную оценку дает сам человек», — подчеркнул он, отметив, что специалисты должны понимать и проверять то, что им предоставляют, а не принимать ответы, которые они не могут объяснить или проверить. В этом плане его главная озабоченность связана не столько с опытными исследователями, которые обладают знаниями, позволяющими сверять ответы, сколько со студентами и теми, кто только начинает свое образование. Он предупредил, что если человек без опыта обращается к ИИ и принимает за правду ответ, который он не в состоянии оценить, «это несколько снижает ценность обучения». Развитие этих инструментов также меняет способы оценки знаний в университете. Паганини отметил, что «некоторые традиционные формы оценки вновь выходят на первый план: это экзамены, на которых студенты должны решать задачи с помощью бумаги и карандаша или устно демонстрировать понимание материала». «На таких специальностях, как инженерия, — пояснил он, — раньше было принято, чтобы студенты разрабатывали компьютерные программы и проверяли их работоспособность, чтобы таким образом продемонстрировать свои знания». Теперь часть этой работы можно поручить ИИ, поэтому конечный результат уже не обязательно свидетельствует о том, что студент понимает, что он сделал. Поэтому он счёл необходимым «сохранить методы, позволяющие проверить, что студенты владеют концепциями, а не просто воспроизводят ответы, сгенерированные инструментом». В сфере труда он отметил «растущую озабоченность по поводу возможного сокращения начальных должностей, так называемых «младших», в технологическом секторе». По его мнению, опытные специалисты, умеющие использовать эти инструменты, могут повысить свою производительность и работать лучше, чем раньше, в то время как доступ выпускников на рынок труда может стать более затруднительным. «По этой причине рынок труда для начинающих специалистов выглядит немного менее благоприятным», — отметил он. Однако он пояснил, что не считает, будто в секторе наблюдается повсеместная нехватка рабочих мест. Тем, кто стремится построить карьеру в сфере технологий, он заявил, что обучение по-прежнему остается привлекательным вариантом, хотя придётся адаптироваться к ситуации, в которой способность контролировать и проверять результаты приобретает всё большее значение. Что касается регулирования, математик признал, что пока не сформировал окончательную позицию, но выразил обеспокоенность в связи с возможностями, которые приобретают системы искусственного интеллекта, в частности в плане выявления уязвимостей в системе безопасности. В ходе интервью Паганини упомянул о случаях нарушений кибербезопасности, связанных с агентами ИИ, и выразил опасение, что эти инструменты могут быть использованы злоумышленниками для содействия атакам на финансовые системы или другую инфраструктуру, или даже для биотеррористических действий. «Я считаю, что мир несколько отстает в реагировании на эту проблему», — заявил он. По его мнению, конкуренция между компаниями затрудняет достижение соглашения между самими разработчиками о добровольном снижении темпов развития или установлении ограничений, поскольку компания может опасаться, что её конкуренты продолжат разрабатывать более мощные системы. По этой причине он считает, что правительства должны принять участие в поиске соглашений и механизмов контроля. «Единственный, кто обладает полномочиями для достижения консенсуса, — это государство», — заявил он, хотя и признал, что пока неясно, какой вид регулирования позволил бы адекватно реагировать на риски, не сдерживая при этом излишне инновации. Еще одним затронутым вопросом стала ситуация с уругвайскими исследователями и трудности, с которыми они сталкиваются при построении научной карьеры в стране. Паганини, проживший около 12 лет за рубежом, отметил, что «выезд из Уругвая может дать значительные преимущества тем, кто стремится к специализации, как благодаря доступу к иным профессиональным реалиям, так и благодаря условиям, позволяющим посвятить себя обучению на полную ставку». Он пояснил, что «в Уругвае многим исследователям приходится совмещать учебу с работой на полную ставку, что может затянуть сроки обучения». «В других странах», — отметил он, — «обучение в докторантуре, как правило, является основным занятием студента, что позволяет сосредоточить усилия на научной работе». В то же время он уточнил, что «остаться в Уругвае также является жизнеспособной альтернативой, особенно благодаря развитию средств связи, возможностям международного сотрудничества и наличию программ последипломного образования». «Решение вернуться после опыта работы за рубежом», — добавил он, — «зависит от профессиональных и личных обстоятельств каждого». Для улучшения местных условий он счел крайне важным устранить разницу между доходом, который может получать выпускник в компании, и доходом, получаемым в рамках стипендии на обучение в магистратуре или докторантуре. Этот разрыв, по его мнению, может повлиять на решение тех, кто ещё не определился со своим призванием к научной деятельности. В этом контексте он упомянул о создании Института Видарт, занимающегося исследованиями в области искусственного интеллекта, и отметил, что стипендии для аспирантов и постдокторантов могли бы способствовать повышению уровня заработной платы и сделать этот путь более привлекательным. Он также поднял вопрос о «необходимости сокращения сроков обучения». «Обучение, рассчитанное на пять лет, может затянуться до шести или семи, в то время как двухлетняя магистратура может в итоге занять три или четыре года», — пояснил он. «Эта задержка», — заявил он, — «может привести к тому, что исследователи приступают к докторантуре, уже имея другие личные и семейные обязанности». «Если бы мы могли ускорить эти этапы, было бы лучше, чтобы более молодые люди завершали своё обучение», — заключил он.