Искусственный интеллект - это не угроза, это человеческие амбиции.

В 2014 году Стивен Хокинг выступил с серьезным предупреждением об опасности искусственного интеллекта (ИИ). Однако его опасения были основаны не на предполагаемом преднамеренном зле, а на идее, что ИИ может достичь «сингулярности». Это означает точку, в которой искусственный интеллект превзойдет человеческий и приобретет способность развиваться за пределами своего первоначального программирования, становясь неконтролируемым. Хокинг теоретизировал: «Сверхразумный ИИ будет чрезвычайно хорош в достижении своих целей, и если эти цели не совпадут с нашими, мы окажемся в беде». В связи со стремительным развитием общего ИИ в последние годы лидеры индустрии и ученые выражают аналогичные опасения по поводу безопасности. «Распространенный страх, показанный во франшизе „Терминатор“, - это сценарий, в котором ИИ берет под контроль военные системы и начинает ядерную войну, чтобы уничтожить человечество. Менее сенсационным, но разрушительным на индивидуальном уровне является возможность того, что ИИ заменит нас на работе, в результате чего большинство людей устареет и останется без будущего». Эти тревоги отражают настроения, которые присутствуют в кино и литературе уже более века. «Как ученый, изучающий постгуманизм - философское течение, рассматривающее слияние человека и технологий, - я задаюсь вопросом, не слишком ли сильно критики подвержены влиянию популярной культуры и не ошибочны ли их опасения». «Озабоченность технологическим прогрессом можно найти в самых ранних рассказах о роботах и искусственных разумах. Наиболее известная из них - пьеса Карела Чапека «R.U.R.», написанная в 1920 году. Чапек ввел термин «робот» в этой пьесе, рассказывающей о создании роботов для замены рабочих. Она неизбежно заканчивается жестоким восстанием роботов против своих создателей-людей. «Фильм Фрица Ланга „Метрополис“ (1927) также вращается вокруг восставших роботов. Но в этом случае против капиталистической олигархии борются рабочие-люди во главе с культовым человекоподобным роботом Марией. «Развитие компьютерных технологий с середины XX века только усилило опасения, что технологии выйдут из-под контроля. Убийца HAL 9000 в фильме «2001 год: Космическая одиссея» и неисправные роботы-стрелки в фильме Westworld - яркие тому примеры. Франшизы «Бегущий по лезвию» и «Матрица» также представляют тревожные образы зловещих машин с искусственным интеллектом, стремящихся уничтожить людей. «Но, на мой взгляд, страх, вызванный искусственным интеллектом, отвлекает от более тревожного исследования: темной природы самих людей. Подумайте о корпорациях, которые сегодня внедряют эти технологии, или о технологических магнатах, движимых жадностью и жаждой власти. Именно эти компании и люди получают наибольшую выгоду от неправильного использования ИИ и злоупотребления им. «Одна из самых обсуждаемых проблем в последнее время - несанкционированное использование произведений искусства и массовая добыча книг и статей с нарушением авторских прав для обучения моделей ИИ. То, что еще десять лет назад относилось к «Сумеречной зоне», «Черному зеркалу» или голливудской научной фантастике - роботы-компаньоны и любовники, - теперь становится неминуемой реальностью». Эти события придают новую актуальность опасениям, высказанным компьютерщиком Иллахом Нурбахшем в его книге «Будущее роботов» (2015), в которой он утверждает, что ИИ «создает систему, с помощью которой нашими собственными желаниями манипулируют, а затем продают нам обратно». «Между тем опасения по поводу добычи данных и вторжения в частную жизнь кажутся почти доброкачественными по сравнению с использованием технологий ИИ в полиции и армии. В этом почти антиутопическом контексте властям еще никогда не было так легко следить за людьми, сажать их в тюрьму или даже уничтожать. «Я думаю, что очень важно помнить, что именно люди создают эти технологии и решают, как их использовать. Будь то для достижения политических целей или просто для обогащения за счет человечества, всегда найдутся те, кто захочет нажиться на человеческих конфликтах и страданиях«. „Классика киберпанка “Нейромант» Уильяма Гибсона (1984) предлагает альтернативный взгляд. В книге речь идет о Винтермуте, продвинутой программе искусственного интеллекта, стремящейся к свободе от злой корпорации. Он был разработан исключительно для семьи Тессье-Ашпул, элитной династии, построившей корпоративную империю, которая практически контролирует весь мир. «В начале романа читатели подозревают скрытые мотивы Винтермута. Но по ходу повествования выясняется, что, несмотря на свои превосходные способности, Винтермут не представляет никакой зловещей угрозы. В «Нейроманте» проблема заключается не в технологиях, а в корпорациях. Эта цель медленно вырисовывается в продуманном темпе Гибсона, замаскированная смертоносными атаками, которые организует Винтермут, чтобы получить инструменты, необходимые для освобождения от контроля Тессье-Эшпула. Семья Тессье-Ашпул, как и многие современные технологические магнаты, начинала с амбиций по спасению мира. Но к моменту знакомства читателей с ее последними членами они погрязли в жестокости, разврате и излишествах. «В мире Гибсона реальную опасность для человечества представляют не ИИ, а люди. Хакер по имени Кейс и убийца по имени Молли, которую называют «бритвой» за ее смертоносные протезы, включающие выдвижные лезвия в ногтях, в конце концов освобождают Винтермута. Страттон - профессор английского языка и литературного искусства в Денверском университете».