Борик, искусственный интеллект и эти девушки из Испании

В своем выступлении на Генеральной Ассамблее ООН президент Габриэль Борич обозначил три вызова, стоящие перед международным сообществом и его совместными действиями в XXI веке: во-первых, обновление демократии с иным восприятием запросов и чаяний граждан; во-вторых, кризис изменения климата, загрязнения окружающей среды и утраты биоразнообразия; в-третьих, технологические изменения и глубокие преобразования, которые они несут всем современным обществам, поскольку сравнимы только с промышленной революцией середины XVIII века. И к этой третьей теме он подошел с непосредственной и человеческой точки зрения, призвав задуматься о трансцендентности этой глобальной трансформации на примере случая, произошедшего в Альмендралехо, городке в Эстремадуре (Испания). Там, перед представителями стран со всех континентов, он сказал: "Недавно мы видели, как в одном из городов Испании мать осудила молодых людей, которые с помощью искусственного интеллекта раздевали своих одноклассников, оскверняя не только их честь, но и их право быть личностью, иметь целостность, иметь частную жизнь". Он сказал это для того, чтобы подчеркнуть настоятельную необходимость увидеть во всей полноте масштабы цифровых изменений, которые, еще не задумываясь о далеко идущих последствиях, "радикально меняют наши отношения друг с другом, наше мышление, производство, работу". Одиннадцать девочек-подростков в Испании осудили распространение своих фотографий в обнаженном виде, сделанных с помощью приложения искусственного интеллекта ClothOff, используемого для "раздевания" под лозунгом Undress girls for free, т.е. Desnuda a chicas gratis. Кстати, это приложение способно создавать фотомонтажи большой реалистичности, способно показывать людей без одежды, если на них нет пальто. Этот инцидент вызвал бурную дискуссию в Испании, а министр юстиции Пилар Ллоп заявила, что безнаказанности быть не может, "даже если изображения подделаны". Эта новость, вероятно, останется за кадром ежедневной новостной шумихи. Но, будучи включенной в речь чилийского президента, она становится вершиной айсберга, вызывающей множество вопросов. Некоторые из них посвящены макротренду, ворвавшемуся в будущее человечества, где искусственный интеллект переходит границы, бросая вызов ученым, мыслителям и политикам о последствиях его могущества. Другие вопросы - это вопросы миллионов людей, которые в своей повседневной жизни накапливают неопределенность перед лицом новой возникающей реальности. И снова, как и в другие периоды истории, наступают времена удивления, сочетающегося со страхом, времена энтузиазма по поводу великого прыжка в новую эпоху, сочетающегося с недоумением от незнания того, как справиться с предстоящим. "Каждая великая технологическая трансформация в истории человечества всегда была прекрасной возможностью для построения более справедливых обществ, но также, если мы ошибаемся, она может стать источником новых несправедливостей", - говорит Борич. И в этом контексте она определяет два уровня действий, которые будут все чаще присутствовать в нашей внешней политике в ближайшие десятилетия: а) установление многостороннего консенсуса для обеспечения этических рамок развития этих новых технологий; б) на основе этого консенсуса также обеспечение этических рамок для использования цифровых преобразований, как в случае с искусственным интеллектом. У Чили есть заслуги, чтобы взять на себя задачу внести вклад в осмысление того, что нас ждет в будущем. В различные дни Конгресса будущего, который уже более десяти лет собирает ученых со всех континентов, чтобы на их основе получить знания о том, какие преобразования и достижения несет XXI век. Но, поскольку мы делаем это из Чили, его осью всегда был вопрос, тот самый вопрос, который перекликается с вопросом Неруды перед Мачу-Пичу: а человек, посреди всего этого, где он? "Демократия перерождается в инфократию", - считает корейский философ Бён Чхоль Хан. И это высказывание, приведенное в одной из его последних книг эссе, появляется на фоне выступления президента Борика. Потому что обращение к этому третьему пункту - научно-техническому - обретает свой полный масштаб для будущего, когда пересекается с первым - демократическим. То, что произошло с молодыми женщинами в Альмендралехо, - лишь намек на то, что, возможно, уже происходит в реальной жизни. Например, политический, научный или художественный деятель, которого мы видим с его фигурой, лицом, голосом, произносящим речь, которую он на самом деле никогда не говорил. Более того, фигура уже умершего человека - Виктора Джары - появляется в сети, исполняя песню, которую он лично никогда не записывал и не пел. Но есть его голос, его интонация, его тип музыки. По мнению корейца Хана, существует линия, в которой все будущее заложено в силе данных. Он называет их "data scientists" и говорит, что они живут в уверенности, что впервые в истории человечество располагает данными, которые позволят ему полностью понять общество. Поэтому, по его словам, "даталисты представляют себе общество, в котором можно вообще обойтись без политики". Более того, на смену политике может прийти практика управления обществом, "управление системами на основе данных". Именно в этом контексте приобретают свою силу слова президента Борича, подчеркнувшего, что эта проблема является одним из трех великих вызовов будущего для глобального мира. И в то же время - настоятельная необходимость закрепить эту реальность в одной из фундаментальных областей своего политического мышления: "Нам необходима структура, включающая в себя перспективы прав человека в области научных исследований и технологических инноваций с учетом сохранения и поощрения свободы и достоинства людей и народов, а также потребностей устойчивого развития". По его словам, Чили может стать латиноамериканским эталоном "для будущего искусственного интеллекта".