Искусственный интеллект: насколько реальна эта угроза и что мы можем сделать?

На днях я услышал выступление профессора из Калифорнийского университета, который, говоря в общих чертах о рисках искусственного интеллекта, задал вопрос: сколько из нас сели бы в самолет, зная, что он был построен без соблюдения стандартов и без проведения тщательных независимых испытаний его работоспособности? Этот вопрос можно распространить на многие другие ситуации. Как общество мы стремимся, например, к тому, чтобы лекарства производились в соответствии с высокими стандартами качества и с пониманием того, что может произойти, если их принимать без рецепта или в неправильных дозах. Мы хотим быть уверены, что атомные электростанции эксплуатируются квалифицированным персоналом, имеют надлежащую физическую инфраструктуру и находятся под тщательным контролем на случай, если что-то пойдет не по плану. В случае с искусственным интеллектом стоит задаться вопросом о реальном масштабе угрозы, о причинах, по которым считается, что существует серьёзный риск, и о путях реагирования, которые нам следует рассмотреть. Что касается масштаба угрозы, то с точки зрения безопасности один из способов проанализировать серьёзность риска — задать себе вопрос: насколько серьёзными будут последствия, если он материализуется, и насколько вероятно, что это произойдёт? В системах, где последствия могут быть катастрофическими, рассматриваются вероятности в один к миллиону или даже ниже. В случае с ИИ рассчитать сегодня такую вероятность с приемлемым уровнем точности очень сложно. У нас нет достаточных данных, и речь идет, отчасти, о технологических возможностях, которые ещё предстоит создать, либо о разработках, ведущихся в частных компаниях и в рамках государственных программ, которые не обнародуют информацию о своей деятельности. Недавний опрос 2 778 исследователей в области ИИ, опубликованный в Journal of Artificial Intelligence Research, показывает, что от 38 % до 51 % из них оценивали вероятность таких серьезных последствий, как исчезновение человечества, как не менее 10 %. Эван Хабингер, исследователь из компании Anthropic, оценил вероятность экзистенциальной катастрофы, связанной с ИИ, в течение следующего десятилетия в более чем 10 %. Это не измерения реальной вероятности; это оценки, сопровождаемые огромной неопределённостью, которые, тем не менее, нельзя игнорировать. И каковы причины, по которым ИИ может представлять реальную угрозу? Существует как минимум три источника риска. Один из них — злонамеренное использование ИИ. Другой — его внедрение в критически важные системы, в которых ошибка может иметь серьезные последствия. И третий, более неопределенный, — это возможность утраты эффективного контроля над будущими системами, способности которых будут намного превосходить нынешние. Первая угроза уже существует. Эти технологии доступны миллионам людей, не требуя специальных знаний. Это приносит огромную пользу, но также облегчает злонамеренное использование: манипулирование информацией, кража данных, кибератаки на жизненно важные секторы. Второй риск возникает, когда мы увеличиваем автономность этих систем и задействуем их в сферах, где последствия ошибочного решения могут быть серьезными. Третий сценарий является наиболее спорным и касается возможности того, что будущие системы смогут в растущей степени способствовать собственному развитию и в конечном итоге совершенствовать свои возможности со скоростью, которая затруднит контроль со стороны человека. Эта «авторекурсивная» способность существует сегодня — по крайней мере, публично — лишь в виде ограниченных экспериментальных проектов. Что же нам делать в таком случае? Регулирование необходимо как на этапе разработки, так и на этапе использования. Что касается передовых моделей, то существуют предложения, включающие согласование стандартов безопасности, проверяемых независимыми сторонами, обеспечение прозрачности в отношении серьезных инцидентов и механизмы, позволяющие определять ответственность. Заключить подобное соглашение в условиях коммерческой и геополитической конкуренции, а также в атмосфере глубокого недоверия чрезвычайно сложно. Однако масштаб этой задачи не должен стать поводом для сдачи. В то же время регулирование не может быть единственным решением. Пока не появится реальное осознание и законное стремление использовать эти технологии на благо человечества, вероятно, никакого регулирования будет недостаточно. Надеюсь, нам не придется заплатить слишком высокую цену в виде серьезных инцидентов, прежде чем мы достигнем осознания проблемы и реальных успехов в этом вопросе. А как насчет Колумбии? Наша страна является одним из участников этого процесса. Каждая из ваших организаций и каждый человек — это часть этого процесса. Мы приобретаем и, в меньшей степени, разрабатываем технологии, внедряем их в компании и государственные учреждения, принимаем решения об их использовании в сфере образования, здравоохранения, правосудия, безопасности и общественных услуг, обучаем тех, кто будет ими пользоваться и вносить вклад в их развитие. Мы можем и должны участвовать в разработке правил, по которым мы хотим, чтобы она функционировала. Как написал Леон XIV в «Magnifica Humanitas»: «Ни одна рука сама по себе не достаточна», и ни одна «не настолько слаба, чтобы не смочь внести свой вклад». Колумбия не может оставаться в стороне.