Искусственный интеллект делает врачей хуже?

НЬЮ-ЙОРК. — В последние годы исследования описывали множество способов, с помощью которых инструменты искусственного интеллекта помогают врачам лучше выполнять свою работу: они помогают им выявлять рак, позволяют быстрее ставить диагнозы и, в некоторых случаях, помогают более точно предсказывать, кто подвержен риску осложнений. Но новые исследования показывают, что сотрудничество с ИИ может иметь скрытую цену. Исследование, опубликованное в журнале Lancet Gastroenterology and Hepatology, показало, что после всего трех месяцев использования инструмента ИИ, предназначенного для помощи в обнаружении предраковых образований во время колоноскопии, врачи стали значительно хуже обнаруживать эти образования самостоятельно. Это первое доказательство того, что использование инструментов ИИ может снизить способность врача выполнять основные задачи без технологии, явление, известное как «деквалификация» (deskilling). «Это двусторонний процесс», — сказал Омер Ахмад, гастроэнтеролог из Университетского колледжа Лондона, который опубликовал редакционную статью вместе с исследованием. «Мы предоставляем ИИ данные, которые влияют на его ответы, но это, похоже, также влияет на наше поведение». Исследование началось, как и многие другие испытания ИИ в медицине. Врачи из четырех эндоскопических центров Польши получили доступ к инструменту искусственного интеллекта, который выделял подозрительные образования во время колоноскопии, обводя их в режиме реального времени. Ряд других крупных клинических испытаний показал, что эта технология значительно повышает уровень выявления предраковых образований врачами, что является широко признанным показателем эффективности работы эндоскописта. «В отличие от предыдущих исследований, ученые измерили, что происходило, когда инструмент не использовался». За три месяца до внедрения технологии врачи обнаруживали новообразования примерно в 28% колоноскопий. Теперь показатель обнаружения снизился примерно до 22%, что значительно ниже базового уровня. Это было наблюдательное исследование, а значит, оно не может дать ответ на вопрос, привела ли технология к снижению эффективности. Могут быть и другие объяснения этого эффекта: например, после внедрения инструмента ИИ врачи проводили примерно в два раза больше колоноскопий, чем раньше, что может означать, что они уделяли меньше внимания каждому обследованию. Но эксперты заявили, что возникновение эффекта дисквалификации не является неожиданным. Это явление хорошо задокументировано в других областях: например, пилоты проходят специальное обучение, чтобы совершенствовать свои навыки в эпоху автопилотов. «Я думаю, что главный вопрос будет звучать так: «И что? Это важно?», — сказал Роберт Вахтер, директор медицинского факультета Калифорнийского университета в Сан-Франциско и автор книги «Гигантский скачок: как ИИ преобразует здравоохранение и что это значит для нашего будущего». «С одной стороны, — сказал Вахтер, — есть много безобидных примеров новых технологий, которые делают старые навыки устаревшими. Без изобретения стетоскопа, например, многим врачам было бы трудно осматривать сердце и легкие пациента, как это было принято в XVIII веке. «Но для Ахмада ИИ отличается тем, что требует долгосрочного контроля со стороны человека. Алгоритмы обучаются для конкретного момента времени, и по мере того, как мир вокруг них меняется, они действуют по-разному — иногда в худшую сторону — и нуждаются в контроле и обслуживании, чтобы обеспечить их дальнейшую работу в соответствии с запланированным. Иногда неожиданные факторы, такие как изменения в освещении потолка, могут привести к тому, что результаты ИИ «будут полностью неверными», сказал он. «Предполагается, что врачи должны участвовать в процессе, чтобы защитить пациентов от таких возможностей». « Если я утрачу навыки, как я буду обнаруживать ошибки?», — спросил Ахмад. «Даже если инструменты были бы идеальными, Вахтер предупредил, что «дисквалификация» может быть опасна для пациентов в течение текущего переходного периода, когда инструменты ИИ недоступны во всех системах здравоохранения, и врач, привыкший их использовать, может получить от нового работодателя просьбу работать без них». И хотя потеря навыков очевидна для кого-то, кто анализирует данные тысяч процедур, сказал Вахтер, он сомневался, что каждый отдельный врач заметит изменение в своих собственных навыках. Небольшое исследование с помощью технологии отслеживания движения глаз показало, что при использовании ИИ врачи, как правило, меньше обращали внимание на края изображения, что свидетельствует о том, что часть мышечной памяти, необходимой для проверки сканирования, была нарушена из-за использования этого инструмента. Ахмад сказал, что также возможно, что после нескольких месяцев зависимости от помощника у врачей атрофировалась когнитивная выносливость, необходимая для тщательной оценки каждого сканирования. «В любом случае, эксперты в области медицинского образования и руководители здравоохранения уже изучают, как бороться с этим эффектом. Некоторые медицинские системы, такие как UC San Diego Health, недавно инвестировали в обучение с помощью симуляторов, которые могут быть использованы для помощи врачам в отработке процедур без использования ИИ, чтобы поддерживать их навыки на высоком уровне, сказал Крис Лонгхерст, клинический директор и директор по инновациям медицинской системы. Адам Родман, директор программ ИИ в Медицинском центре Beth Israel Deaconess в Бостоне, сказал, что некоторые медицинские факультеты также рассматривают возможность запрета ИИ в первые годы обучения студентов. Если всего три месяца использования инструмента ИИ могут привести к ухудшению навыков опытных врачей, участвовавших в исследовании (в среднем врачи практиковали около 27 лет), что же будет со студентами-медиками и ординаторами, которые только начинают развивать эти навыки? «Мы все чаще называем это «неспособностью», — сказал Родман.