Достойный преемник: эксклюзивная технологическая вечеринка, на которой обсуждалось будущее (или конец) человечества

Что или кто будет определять будущее человечества? Если эта задача будет возложена на машины, будет ли это концом нашего времени? Таковы некоторые из вопросов, которые звучали на эксклюзивной вечеринке Worthy Successor, организованной американским предпринимателем Дэниелом Фаджеллой, на которой присутствовали исследователи искусственного интеллекта (ИИ), философы и технологи из престижных лабораторий и университетов по всему миру. Местом проведения был выбран роскошный особняк, расположенный на скале с видом на мост Золотые Ворота в Сан-Франциско, Калифорния, стоимостью 30 миллионов долларов. Там, среди безалкогольных напитков и сырных досок, около 100 экспертов обсуждали расширение возможностей генеративного ИИ (GAI) и его способность навсегда изменить нашу реальность«. »Это мероприятие в значительной степени сосредоточено на постчеловеческом переходе. А не на AGI, который будет вечно служить инструментом для человечества", - сказал Фаджелла корреспонденту Wired. В деталях его мотивом для встречи стала нехватка мест для размышлений, чтобы обсудить этот вопрос. «Крупные лаборатории, люди, которые знают, что AGI, вероятно, покончит с человечеством, не говорят об этом, потому что стимулы не позволяют», - сказал он, имея в виду таких предпринимателей, как Элон Маск, Сэм Альтман и Демис Хассабис, которые «довольно откровенно говорили о том, что AGI может убить нас всех». В этом сценарии, по мнению Фаджеллы, «моральной целью» ИИ должно стать создание настолько мощной формы интеллекта, чтобы «человек с радостью предпочел бы, чтобы именно он (а не человечество) определял будущий путь самой жизни». Первой выступила писательница из Нью-Йорка Джиневера Дэвис, которая предупредила, что человеческие ценности, возможно, «невозможно» воплотить в ИИ и что он никогда не поймет, что значит быть сознательным. Она заявила, что технологии никогда не поймут, что значит быть сознательным. «Правильным путем вперед, по ее словам, было бы движение к »космическому выравниванию«, то есть создание ИИ, способного искать и находить еще более глубокие ценности, чем те, которые мы знаем в настоящее время». "Далее философ Майкл Эдвард Джонсон заявил, что, хотя радикальные технологические изменения неизбежны, научно-техническое сообщество все еще не имеет четких этических рамок для преодоления этого перехода. "По его словам, создание ИИ без понимания сознания во всей его полноте может стать опасной авантюрой. По этой причине исследователь предложил научить и людей, и машины стремиться к «добру» и достигать его, а не приказывать ИИ подчиняться человеческим командам«. »Фаджелла вел третий и заключительный доклад мероприятия. В частности, основатель компании Emerj, занимающейся исследованиями в области ИИ, отметил, что человечество не будет существовать вечно в его нынешнем виде. В этом сценарии необходимо будет создать преемника, который не только выживет, но и будет способен создавать новые виды смысла и ценности. В деталях он выделил две фундаментальные характеристики: наличие совести и «аутопоэзис», то есть способность развиваться и генерировать новый опыт. Кроме того, опираясь на идеи таких философов, как Барух Спиноза и Фридрих Ницше, он говорил о безграничности ценностей во Вселенной, поэтому необходимо создать нечто, способное раскрыть «что будет дальше». Фаджелла назвал это «аксиологическим космизмом»: «Если человечество выполнит эту задачу, - рискнул эксперт, - ИИ унаследует не только нашу позу, но и потенциал Вселенной». После мероприятия большинство гостей вернулись домой на Ubers или Waymos - автономных такси, которые нарасхват в таких технологических городах, как Сан-Франциско. "Это не та группа, которая выступает за уничтожение человека. Это группа, которая, если уж на то пошло, выступает за замедление развития искусственного интеллекта, чтобы убедиться, что мы движемся в правильном направлении«, - заключил Фаджелла».