Влияние ИИ на когнитивные способности: исследование Массачусетского технологического института (MIT) выявило тревожные данные

Еще одно исследование вновь показывает, что чем больше человек полагается на искусственный интеллект в процессе мышления, тем меньше он способен действовать самостоятельно. «На этот раз исследователи из Массачусетского технологического института (MIT) проанализировали, как использование ИИ для отличия фейковых новостей от настоящих влияет на способность пользователей самостоятельно выявлять дезинформацию». Использование чат-ботов на базе ИИ в качестве источника новостей становится все более распространенным явлением, особенно среди молодежи. Недавние отчёты Pew Research Center показывают, что каждый пятый подросток в США получает новости через чат-ботов, а каждый пятый взрослый в возрасте до 50 лет утверждает, что хотя бы изредка прибегает к ИИ для получения информации». В ходе исследования, проведённого MIT Media Lab, в течение четырёх недель наблюдали за 67 участниками, которые оценивали заголовки и изображения новостей, указывая, считают ли они их правдивыми или ложными. В некоторых случаях им помогал чат-бот на базе ИИ. Когда участники получали помощь от ИИ, их точность в выявлении фейковых новостей повышалась на 21 %. Однако в конце исследования проявился тревожный побочный эффект. К четвертой неделе способность участников выявлять фейковые новости без посторонней помощи снизилась на 15 процентных пунктов по сравнению с их результатами до начала эксперимента. Тем не менее их уверенность возросла: четверть участников заявила, что считает свои навыки распознавания улучшившимися, хотя их результаты ухудшились. «Анку Рани, одна из ведущих соавторов исследования, пояснила MIT News, что эти результаты отражают чрезмерную и ошибочную уверенность в ИИ». « «Пользователи воодушевлены этими «волшебными» языковыми моделями, но забывают, что это всего лишь статистические модели, предсказывающие следующий «токен» в последовательности», — отметила Рани. «В результате такого масштабирования возникают впечатляющие явления, но также и реальные ограничения — как в том, что модель может надежно генерировать, так и в её влиянии на тех, кто ею пользуется». «Это исследование далеко не первое, демонстрирующее, что зависимость от ИИ может негативно сказываться на когнитивных способностях». Исследование, опубликованное в мае, показало, что использование ИИ всего в течение десяти минут снижало способность участников решать математические задачи и выполнять упражнения на понимание прочитанного, аналогичные тем, что встречаются в экзамене SAT. Существуют также исследования, посвящённые врачам, которые утратили часть своей способности самостоятельно диагностировать рак, специалистам по обработке данных, чьи навыки критического мышления ухудшились, и авторам эссе, у которых снизилась мозговая активность — и всё это произошло после того, как они стали полагаться на помощь ИИ при выполнении задач. В совокупности эти исследования указывают на так называемый «парадокс зависимости от ИИ»: способности человека сначала улучшаются при помощи искусственного интеллекта, но в конечном итоге опускаются ниже прежнего уровня, когда эта помощь исчезает. Хотя исследование побуждает к размышлениям об использовании ИИ для различения реальных и фальшивых новостей, в нем также отмечается, что существуют способы использовать эту технологию, не жертвуя собственной способностью к суждению. «Вальдемар Данри, другой соавтор исследования, предложил использовать беседы, основанные на сократическом методе. В рамках такого взаимодействия ИИ задает наводящие вопросы, чтобы подвести участников к правильному ответу, а не давать его напрямую. По мнению исследователя, такой подход может помочь развить навыки, необходимые для выявления фейковых новостей, даже когда ИИ больше не будет доступен. «ИИ, которые прямо „подсказывают“ ответы, с большей вероятностью способствуют формированию зависимости, тогда как те, которые „задают вопросы“ с помощью сократического метода, лучше помогают людям научиться самостоятельно различать правду», — заявил Данри. «Но в значительной степени речь идет о балансе между скоростью и затратами усилий». И он заключил: «Ещё предстоит проделать большую работу, чтобы не передать этим моделям полностью те критически важные задачи, которые мы хотим и впредь выполнять самостоятельно. Нам нужно разработать новый вид грамотности в области искусственного интеллекта».