От утопии до конца света: что нас ждет?

Больше всего поражают и озадачивают не сами научные достижения, свидетелями которых мы являемся, а то бешеное темпо, с которым они происходят — то же самое наблюдается и в сфере новых технологий. Создается впечатление, что скорость технологических изменений — другие говорят о «технологической эволюции» или «революции» такого рода — ускорилась больше, чем сами науки, служащие ей основой. Как будто технология развивается сама по себе; то есть, как будто технология призывает, а может быть, и тянет за собой новые технологии. Даже философия оказывается захваченной новыми технологиями, и не один человек дошел до того, что утверждает: последние уже являются философией. Как всем известно, реакции широкой публики на это явление, а также экспертов, варьируются от утопии до конца света; хотя между этими двумя крайностями есть и другие возможности: оптимизм, простой энтузиазм, надежда; а с другой стороны — отторжение и пессимизм. Именно в этих рамках мы и движемся, признавая, что речь идет не о смене эпохи и даже не о смене мира, а, вероятно, о смене человечества. Человеческое может диверсифицироваться за пределы того, что мы знаем с биологической точки зрения. На смену биологической эволюции, которая в случае человеческого рода длилась миллиарды лет, может прийти технологическая эволюция, хотя и гораздо более быстрая, чем та. Поэтому философия оказалась в затруднительном положении. В затруднительном положении и даже в бедственном, не говоря уже о религиях. Изменения в этом направлении многочисленны, происходят очень быстро и с максимальной интенсивностью, и на них направляются огромные государственные и частные инвестиции, которые в конечном итоге могут привести к тому, что машины будут господствовать над людьми. Возможно, мы находимся буквально на пороге того, чтобы во всех сферах жизни использовать машины, которые уже десятилетиями выполняют за нас работу с большей легкостью, меньшими затратами и большей эффективностью, чем люди. Речь идет уже не только о маленьком роботе, убирающем пыль в наших комнатах, или о знаменитой машине, которая с помощью нескольких известных ингредиентов и простых инструкций, а также за короткое время позволяет приготовить вкусные блюда. Да, нам также нравится заходить на кухню и трудиться над собственными рецептами и приготовлениями, и именно поэтому мы всегда считали еду культурным продуктом, то есть чем-то, созданным людьми для выполнения какой-то функции — например, приготовления восхитительного варенья из айвы, которое делали наши матери и бабушки — и достижения определенной цели, в данном случае — удовольствия гостей. Мы используем или прибегаем к новым технологиям почти не замечая этого, не осознавая того подводного течения, которое таится во всем этом. Подумайте о нейронауках и нейротехнологиях, которые в сочетании с вычислительной техникой воздействуют на человеческий мозг — вернее, на весь организм человека — с удивительными результатами и перспективами. Каких высот мы сможем достичь в области воздействия на мозг благодаря нанотехнологиям и в сотрудничестве с вычислительной техникой? Каким должно быть наше отношение к новым технологиям? Считать, что нам продают утопии, высокие дозы оптимизма, энтузиазма или просто надежды; или, напротив, мы впадем в фантазии, отторжение, пессимизм или страх перед неизбежным концом света, вызванным нами самими? В этом смысле у нас есть гораздо больше, чем просто импульс. Мы уже набрали ход. Это не остановится, и не будет ничего похожего на мораторий на несколько месяцев, который позволил бы нам лучше обдумать и спланировать вещи. Факты возобладают раньше, чем этические или юридические нормы, о которых мы еще не знаем, как договориться массово и тем более повсеместно. Нечто подобное произошло с пересадками органов умерших людей пациентам, которые в них срочно нуждались. Сначала их проводили в большом количестве, и только позже, гораздо позже, были согласованы нормы на национальном и международном уровнях. А поскольку скорость этого последнего изменения была гораздо меньше, чем та, которая наблюдается сегодня в сфере технологий, сколько времени будет уделено новым нормам и через сколько времени они быстро устареют? Возможно, в сфере искусственного интеллекта нам нужны не только национальные или региональные законы, а также не международные договоры, а нечто вроде нового общественного договора, охватывающего все современное человечество. Но как можно заключить такой договор, если у нас нет ничего, похожего на мировое правительство, которое могло бы обсуждать возможности и риски, которые мы наблюдаем в настоящее время?