ИИ-инструмент FDA для медицинских изделий не справляется с простыми задачами

По словам двух знакомых с ним людей, новый инструмент искусственного интеллекта Управления по контролю за продуктами и лекарствами, который может ускорить рассмотрение и утверждение медицинских устройств, таких как кардиостимуляторы и инсулиновые помпы, не справляется с простыми задачами. По словам собеседников, инструмент, который пока находится в стадии бета-тестирования, имеет ошибки, пока не подключен к внутренним системам FDA и испытывает проблемы при загрузке документов или предоставлении пользователям возможности задавать вопросы. Кроме того, в настоящее время он не подключен к Интернету и не может получить доступ к новому контенту, например, к недавно опубликованным исследованиям или тому, что находится за платной стеной. Искусственный интеллект, получивший внутреннее название CDRH-GPT, призван помочь сотрудникам Центра устройств и радиологического здоровья агентства, подразделения, ответственного за обеспечение безопасности устройств, имплантируемых в организм, а также таких важных инструментов, как рентгеновские и компьютерные томографы. Это подразделение оказалось в числе тех, кого затронули массовые увольнения в Министерстве здравоохранения и социальных служб в начале этого года. Хотя многих рецензентов устройств удалось спасти, ведомство ликвидировало большую часть вспомогательной службы, которая позволяет им своевременно выдавать решения об одобрении. Работа рецензентов включает в себя просеивание большого количества данных, полученных в ходе исследований на животных и клинических испытаний. В зависимости от заявителя это может занять несколько месяцев или даже больше года, что, возможно, поможет сократить время работы с помощью искусственного интеллекта. Эксперты, однако, обеспокоены тем, что продвижение FDA в сторону ИИ может опередить то, к чему технология действительно готова. С момента вступления в должность 1 апреля комиссар д-р Марти Макари настаивает на интеграции искусственного интеллекта во все подразделения FDA. Как внедрение искусственного интеллекта может повлиять на безопасность и эффективность лекарств и медицинских приборов, пока не определено. В прошлом месяце Макари установил крайний срок внедрения искусственного интеллекта - 30 июня. В понедельник он заявил, что агентство идет с опережением графика. Но два человека, знакомые с CDRH-GPT, говорят, что над ним еще нужно много работать и что сотрудники FDA уже обеспокоены тем, что не смогут уложиться в июньский срок, по крайней мере, в первоначальном виде. «Я беспокоюсь, что они могут слишком быстро перейти к искусственному интеллекту от отчаяния, прежде чем он будет готов к работе», - сказал Артур Каплан, руководитель отдела медицинской этики в Медицинском центре NYU Langone в Нью-Йорке. Он подчеркнул, что точная экспертиза медицинских устройств крайне важна, поскольку от нее зависят жизни людей. «Но в этом деле все равно нужна человеческая помощь», - сказал Каплан. ИИ «пока недостаточно интеллектуален, чтобы по-настоящему исследовать заявителя, оспаривать его или взаимодействовать с ним». FDA направляет все запросы СМИ в Министерство здравоохранения и социальных служб. Представитель HHS не ответил на просьбу о комментарии. В понедельник Макари объявил, что отдельный инструмент искусственного интеллекта под названием Elsa был развернут для всех сотрудников FDA. «Первый рецензент, который воспользовался этим инструментом, сказал, что искусственный интеллект за шесть минут сделал то, на что у него обычно уходило от двух до трех дней», - сказал Макари в интервью на прошлой неделе. «И мы надеемся, что это поможет повысить эффективность. Так что я думаю, что у нас большое будущее». По словам тех же двух источников, реальность внутри агентства совершенно иная. По их словам, несмотря на то, что концепция очень хороша и является шагом в правильном направлении, некоторые сотрудники считают, что ее торопят и она еще не готова к прайм-тайму. «Инструменты ИИ для помощи в выполнении определенных задач рецензентам и ученым кажутся разумными, учитывая потенциальную полезность ИИ», - сказал один из собеседников. Однако он не согласен с «агрессивным внедрением» и утверждениями о том, что это может сократить работу «на часы и дни». По словам экспертов, нередко компания или государственное учреждение запускают новый продукт, а затем со временем дорабатывают его путем итеративных обновлений. По словам сотрудников, они приложили немало усилий, чтобы запустить Elsa, но она все еще не может справиться с некоторыми основными функциями и нуждается в доработке, прежде чем сможет поддерживать сложную нормативную работу агентства. По словам одного из сотрудников, когда в понедельник сотрудники тестировали инструмент, задавая вопросы об одобренных FDA продуктах или другой публичной информации, он выдавал сводки, которые были либо неверными, либо лишь частично точными. По словам собеседников, пока неясно, будет ли CDRH-GPT в конечном итоге интегрирована в Elsa или останется отдельной системой. Ричард Пейнтер, профессор права в Университете Миннесоты и бывший юрист по вопросам правительственной этики, говорит, что есть также опасения по поводу потенциального конфликта интересов. Он задается вопросом, существует ли протокол, препятствующий тому, чтобы какой-либо государственный чиновник - например, эксперт FDA, использующий эту технологию, - имел финансовые связи с компаниями, которые могут извлечь выгоду из ИИ. По его словам, хотя технология существует уже много лет, для FDA это все еще новое предприятие. «Мы должны быть уверены, что люди, принимающие такие решения, не имеют финансовой заинтересованности в компаниях, занимающихся искусственным интеллектом, которые получат контракты», - сказал Пейнтер. «Конфликт интересов может сильно подорвать целостность и репутацию федерального агентства». Некоторые сотрудники FDA не считают искусственный интеллект решением проблемы непосильного объема работы - они видят в нем признак того, что в конечном итоге их могут заменить. Управление по контролю за продуктами и лекарствами «и без того уже не справляется с нагрузкой из-за RIF (увольнений) и постоянных потерь людей, в то время как наем сотрудников заморожен и нет возможности пополнить штат», - сказал один из сотрудников.