Три совета, как избежать "эрозии навыков", вызванной искусственным интеллектом

В 2009 году самолет авиакомпании Air France упал в океан, выживших не было. Система автопилота самолета отключилась, и пилоты, полагаясь на своего компьютерного помощника, не смогли исправить ситуацию вручную. "В 2015 году водитель автобуса в Европе ввел в GPS-навигатор неверный пункт назначения и с радостью повез группу бельгийских туристов на 1200 километров в неправильном направлении. "В 2017 году американские прокуроры, согласившиеся на условно-досрочное освобождение подростка, резко изменили свое решение, потому что алгоритм счел обвиняемого "особо опасным". "Это драматичные примеры, но они далеко не единичны. Когда мы перепоручаем когнитивные задачи технологиям (например, управление самолетом, навигацию или вынесение суждения), исследования показывают, что мы можем потерять способность выполнять эти задачи самостоятельно. Существует даже термин, обозначающий нашу склонность забывать информацию, доступную через онлайн-поисковики: "эффект Google". Некоторые исследования показывают, что риск эрозии навыков легко упустить из виду. В одном из недавних исследований эрозия навыков рассматривалась в бухгалтерской фирме: "Фирма недавно прекратила использовать программное обеспечение, автоматизирующее большую часть учета основных средств. Однако бухгалтеры обнаружили, что не могут справиться с задачей без него. Годы чрезмерной зависимости от программного обеспечения подорвали их опыт, и в итоге им пришлось заново осваивать навыки учета основных средств. "Хотя программное обеспечение было основано на правилах (в нем не использовалось машинное обучение или "искусственный интеллект"), оно было достаточно "умным", чтобы отслеживать амортизацию и составлять отчеты для многих налоговых и финансовых целей. Эти задачи были слишком сложными и утомительными для бухгалтеров". "Компания осознала снижение квалификации только после того, как один из клиентов обнаружил ошибки в отчетах, составленных бухгалтерией вручную. Поскольку бухгалтерам не хватало опыта, компании пришлось поручить исправление ошибок поставщику программного обеспечения. "Выяснилось, что недостаток внимания к задачам, поддерживаемый автоматизацией, привел к снижению квалификации. Старая поговорка "используй или потеряешь" применима к когнитивноемкой работе в той же мере, что и ко всему остальному. "Бухгалтеры не беспокоились о том, что передали свои мысли программному обеспечению, поскольку оно работало практически идеально. Другими словами, они стали жертвой "самоуспокоенности автоматизации": предположения, что "все в порядке", игнорируя потенциальные риски. "Это имело три основных последствия: "Так как же можно избежать самоуспокоенности при использовании ИИ и других автоматизированных систем? Вот три совета: "Как это может выглядеть на практике? Вместо того чтобы слепо следовать указаниям приложения, обращайте внимание на дорожные знаки и ориентиры и осознавайте, что вы делаете, даже когда вас ведет приложение. "Изучите карту и предлагаемый маршрут перед поездкой, чтобы расширить свои "доменные знания" или понимание того, что находится вокруг маршрута. Это поможет вам соотнести конкретный маршрут с окружающей обстановкой, что будет полезно, если вы заблудитесь или захотите найти альтернативные пути". "Когда вы доберетесь до места назначения, подумайте о маршруте, предложенном приложением: был ли он быстрым, безопасным, приятным? В противном случае в следующий раз выбирайте другой путь, даже если приложение предлагает иное". "Случай с бухгалтерской фирмой также поднимает более важный вопрос: какие навыки актуальны и достойны сохранения, а какие следует уступить автоматизации? "Универсального ответа не существует, поскольку профессиональные навыки меняются со временем, как и юрисдикции, отрасли, культуры и географические регионы. Однако с этим вопросом нам придется столкнуться по мере того, как искусственный интеллект будет брать на себя функции, которые раньше считались невозможными для автоматизации". "Несмотря на трудности, менеджер по бухгалтерскому учету в нашем примере считает, что автоматизированное программное обеспечение очень полезно. По его мнению, самодовольство застало его команду врасплох: "В мире, ориентированном на эффективность и годовые или квартальные цели, организации предпочитают решения, которые улучшают ситуацию в краткосрочной перспективе, даже если они имеют негативные побочные эффекты в долгосрочной перспективе. Именно это произошло в случае с бухгалтерией: повышение эффективности затмило абстрактные опасения по поводу опыта, пока не возникли проблемы". "Это не означает, что мы должны избегать ИИ. Организации не могут позволить себе упустить возможности, которые он открывает. Однако они также должны осознавать риск утраты профессиональных навыков".