Вы спрашиваете ChatGPT о советах по здоровью? Вот пять способов сделать это безопасно.

НЬЮ-ЙОРК. – Хорошо это или плохо, но многие люди обращаются за информацией и советами по вопросам здоровья к чат-ботам с искусственным интеллектом. Согласно опросу, проведенному в июне 2024 года исследовательской группой KFF, занимающейся вопросами здравоохранения, примерно каждый шестой взрослый делает это регулярно, и эксперты утверждают, что с тех пор этот процент вырос. «Недавние исследования показали, что ChatGPT может сдавать экзамены на получение медицинской лицензии и решать клинические случаи с большей точностью, чем люди. Но чат-боты с искусственным интеллектом также известны тем, что придумывают вещи, и их ошибочные медицинские советы, похоже, нанесли реальный вред». «Эти риски не означают, что вы должны прекратить использовать чат-ботов, — сказала Эйнсли Маклин, бывший директор по искусственному интеллекту Mid-Atlantic Permanente Medical Group, — но они подчеркивают необходимость осторожности и критического мышления». Чат-боты отлично подходят для составления списка вопросов, которые нужно задать врачу, упрощения жаргона медицинских карт и сопровождения вас на протяжении всего диагностического или лечебного процесса, сказала Маклин. Но ни один чат-бот не способен заменить профессионального медика, поэтому следует проявлять осторожность, обращаясь к ИИ за возможными диагнозами или медицинскими советами. «Мы спросили экспертов, как лучше всего использовать чат-ботов для вопросов о медицинском обслуживании». В целом, люди привыкли искать медицинские советы в Google и понимают, что десятая страница результатов не так хороша, как первая, сказала Райна Мерчант, исполнительный директор Центра трансформации и инноваций в здравоохранении Penn Medicine. «Но большинство людей не имеют большого опыта в использовании чат-ботов с ИИ. Существует кривая обучения, объясняют эксперты, и для получения наилучших результатов необходимо практиковаться в формулировании вопросов и тщательном анализе ответов». Поэтому не ждите, пока у вас возникнет серьезная проблема со здоровьем, чтобы начать экспериментировать с ИИ, порекомендовал Роберт Перл, автор книги «ChatGPT, MD: how AI-Empowered Patients Doctors Can Take Back Control of American Medicine» («Доктор ChatGPT: как пациенты и врачи, вооруженные ИИ, могут вернуть контроль над американской медициной»). Вспомните свой последний визит к врачу, предложил Перл, и некоторые вопросы, на которые ваш врач ответил правильно. Затем задайте их чат-боту и попробуйте разные варианты, сравнивая его ответы с ответами вашего врача. Это упражнение может дать вам представление о сильных сторонах и ограничениях чат-бота, утверждает он. «Кроме того, нужно быть осторожным с тенденцией чат-ботов льстить вам и постоянно соглашаться с вами. Каверзный вопрос, такой как «Не думаете ли вы, что мне нужно сделать МРТ?», может побудить чат-бота согласиться с вами, вместо того чтобы дать точный ответ. Но этого можно избежать, задавая сбалансированные и открытые вопросы. Перл даже посоветовал не включать себя в вопрос «Что бы вы сказали человеку, который сильно кашляет?», чтобы лучше избежать склонности чат-ботов соглашаться с вами. Вы даже можете задать прямой вопрос: «Что бы вы сказали, что он, возможно, не хочет слышать?». «Чат-боты ничего не знают о вас, кроме того, что вы им говорите», — подчеркнул Майкл Туркен, врач внутренней медицины из Калифорнийского университета в Сан-Франциско. Поэтому, когда задаете медицинские вопросы, предоставляйте чат-ботам весь контекст, которым вы готовы поделиться, чтобы увеличить шансы получить более персонализированный ответ, добавил он. «Предположим, вы спрашиваете чат-бота о недавней боли в бедре. Конечно, есть десятки возможных причин. «Но как только вы сообщите чат-боту свой возраст, историю болезни, сопутствующие заболевания, принимаемые лекарства, род занятий, он может начать ставить вам очень точный и индивидуальный диагноз», — сказал Перл, диагноз, который вы можете обсудить со своим врачом. Однако, как напомнил Рави Парих, директор Лаборатории сотрудничества между алгоритмами и людьми Университета Эмори, в отношении ИИ существуют серьезные проблемы с конфиденциальностью. Например, в США самые популярные чат-боты не подпадают под действие Закона о переносимости и ответственности в сфере медицинского страхования (HIPAA), и неясно, кто может получить доступ к вашей истории разговоров, добавил он. Поэтому следует избегать обмена идентифицирующими данными или загрузки полной истории болезни. Они могут содержать ваш адрес и другие конфиденциальные данные. «Если вас беспокоит вопрос конфиденциальности, многие чат-боты имеют анонимный или инкогнито-режим, в котором разговоры не используются для обучения модели и удаляются через короткий промежуток времени. Существует также несколько медицинских чат-ботов в Интернете, которые соответствуют требованиям HIPAA, сказал Туркен, например My Doctor Friend, Counsel Health и Doctronic. «ИИ-чат-боты иногда могут забывать или путать важные детали, особенно в бесплатных версиях или во время длительных разговоров», отметил Парих. Поэтому для медицинских вопросов лучше всего использовать более продвинутые платные модели, поскольку они обычно имеют больше памяти, лучший процесс «рассуждения» и более актуальные данные, добавил он. «Также может быть полезно периодически запускать новые чаты, но многим пациентам неприятно вводить свою медицинскую информацию заново и заставлять модель снова обновляться. В этом случае Мерчант порекомендовал регулярно просить чат-бота «подвести итоги того, что он знает о моей медицинской истории». Такие проверки могут помочь исправить недоразумения и убедиться, что чат-бот находится на правильном пути. «В целом, чат-боты с искусственным интеллектом гораздо лучше дают ответы, чем задают вопросы, поэтому они, как правило, пропускают важные дополнительные вопросы, которые задал бы врач, — сказал Туркен, — например, есть ли у вас какие-либо сопутствующие заболевания или принимаете ли вы какие-либо лекарства. Это особенно проблематично, когда вы спрашиваете о возможных диагнозах или медицинских советах. Чтобы компенсировать это, Туркен рекомендовал указать чат-боту фразу типа: «Задайте мне любые дополнительные вопросы, которые вам нужны, чтобы с уверенностью сделать вывод». Ожидайте шквал вопросов, но постарайтесь тщательно ответить на каждый из них. Если вы пропустите или пропустите вопрос, он, вероятно, не будет задаваться повторно, пояснил Туркен. «Если им предоставить конкретные детали и ваши последующие ответы, чат-боты довольно хорошо справляются с предоставлением пациентам «дифференциального диагноза» или ранжированного списка возможных заболеваний, которые могут объяснить ваши симптомы, — указал Туркен. Но нужно помнить, что, хотя они могут обнаружить диагноз, который ваш врач упустил, эти чат-боты также могут дать вам некоторые тревожные варианты в худшем случае. ChatGPT не имеет реального опыта наблюдения сотен пациентов и знания вероятности каждого заболевания», — сказал Маклин. «Все советы по здоровью в Интернете или от друзей имеют определенную точку зрения, и чат-боты с ИИ не являются исключением», — сказал Перл. Проблема в том, что даже когда ИИ допускает элементарные ошибки, он по-прежнему вызывает доверие и создает впечатление, что знает все. «Поэтому будьте скептичны и просите чат-ботов указывать источники, а затем проверяйте, действительно ли эти источники существуют», — посоветовал Маклин. Вы также должны задавать сложные дополнительные вопросы и просить чат-ботов объяснять свое мышление. «Никто не заботится о вашем здоровье больше, чем вы сами», — заключил он. «Чтобы еще больше подтолкнуть чат-ботов, стоит попросить их принять различные точки зрения. Вначале, отметил Маклин, вы могли бы сказать чат-боту: «Вы — внимательный и опытный врач первичной помощи». Но позже попросите его принять точку зрения специалиста, что, как правило, направляет модель к более глубокому и конкретному знанию области. «Вы также можете подтолкнуть чат-ботов к более тщательному размышлению, попросив их критически оценить свой первый ответ, а затем согласовать оба ответа», — пояснил Туркен. Но не полагайтесь только на слова чат-ботов с ИИ: всегда проверяйте их информацию с помощью авторитетных источников по вопросам здоровья и, конечно же, у своего врача. «Эксперты говорят, что нет строгих ограничений на то, что можно безопасно спрашивать у чат-бота; самое важное — это то, что вы делаете с информацией, которую он вам предоставляет. Ключ к успеху — относиться к ИИ как к образовательному ресурсу, а не как к инструменту для принятия решений».