Скользкий склон

Хорошо, что ANEP отменила пилотный проект по контролю посещаемости с помощью системы распознавания лиц. Я считаю, что в целом эту технологию следует отвергнуть. Хотя необходимо рассматривать каждый случай ее применения отдельно, я склоняюсь к мнению, что риски превышают выгоды. Роберт Сильва опубликовал в El Observador свои размышления о рисках использования технологии распознавания лиц в образовании, с которыми я согласен и в которых он поднимает основные проблемы этой темы. Здесь я хотел бы добавить несколько соображений из области социологии и культурной критики, чтобы более конкретно определить, что поставлено на карту, а также описать нечто, характерное для духа времени: культуру наблюдения. Культура наблюдения — это способ понимания современных обществ, предложенный канадским социологом Дэвидом Лионом. Раньше правительства и учреждения следили за гражданами или отдельными лицами, но теперь наблюдение стало нормой, оно является частью повседневной жизни, и мы активно участвуем в нем, часто руководствуясь идеологией удобства. С идеей внедрения системы распознавания лиц в средних школах было достигнуто то, что автор Евгений Морозов определил как технологический солюционизм, то есть переосмысление сложных социальных проблем как технических проблем, которые решаются с помощью технологий, без особого размышления о том, что означает биометрическая технология такого рода. В данном случае технологический солюционизм узаконивает и расширяет слежку, что имеет очень серьезные последствия. Хотя и существуют нюансы, технологии слежки в целом, и технологии распознавания лиц в частности, ставят под угрозу то, что мы являемся людьми, поэтому над этим нужно хорошо подумать. Наиболее очевидной проблемой является потеря конфиденциальности и доступ к базам данных, что можно опровергнуть, настаивая на их безопасности. Но есть и более серьезные вещи: с одной стороны, моральная ответственность людей, а с другой — привыкание людей к очень инвазивной слежке. С моральной точки зрения, как предлагает философ Бенджамин Хейл, распознавание лиц снижает моральное сознание людей, потому что мы делегируем машине право формировать наше поведение. То, что заставляет людей поступать правильно, — это угроза быть узнанным, а не свободное и ответственное решение автономных личностей. Возможно, это слишком много для такой страны, как наша, с ее недостатками в образовании и неравенством. Конечно, свобода и автономность во многом зависят от места, где человек родился и вырос, а также от доступных ему возможностей, но эффект моральной эрозии будет носить общий характер. Более тревожным, на мой взгляд, является то, что мы привыкаем к такой крайней степени наблюдения, как та, которая осуществляется с помощью распознавания лиц. Мы живем в той культуре наблюдения, которую описывает Лайон, которая зачастую бывает полезной и необходимой, но имеет разные степени, и эта — очень продвинутая. Как предлагают авторы Вудрау Харцог и Эван Селинджер, технологии часто приводят нас к «скользким склонам» (англ. slippery slopes), идея, которая обычно считается ошибочной, но в данном случае полезна. Если положить лягушку в кастрюлю и постепенно нагревать воду, лягушка не заметит этого, пока не станет слишком поздно, и не погибнет. Скользкий склон означает выявление сложных ситуаций, которые могут возникнуть из-за непредвиденных последствий чего-либо в среднесрочной или долгосрочной перспективе. В данном случае мы бы оказались в ситуации, которую в английском языке называют surveillance creep, что в русском языке означает «коварное проникновение слежки», которое меняет суть демократических систем. Вопрос заключается в том, чтобы подумать о распознавании лиц в контексте этого проникновения и этой трансформации. В эссе 2011 года итальянский философ Джорджо Агамбен описал, что в XIX веке с развитием биометрических данных, таких как отпечатки пальцев, произошел перелом, в результате которого идентичность перешла от социальной функции к биологической. Это означает важную перемену, поскольку именно через признание другого человека мы формируемся как личности, в то время как в отношении биометрических данных мы не можем занять позицию или дистанцироваться. С помощью распознавания лиц это усиливается, потому что, в отличие от отпечатков пальцев, не требуется физического взаимодействия; не нужно идти в бюро гражданской идентификации, чтобы поставить отпечаток пальца. Лица можно сканировать удаленно и пассивно. Поэтому распознавание лиц по сути своей отчуждает нас: оно отделяет нас от наших лиц, они перестают быть нашими и переходят в собственность кого-то другого. В заключение, здравый смысл возобладал, потому что было настоящим безумием предлагать подвергать этому школьников.