Время гнилых мозгов

Я читаю в New York Times о недавнем исследовании, проведенном в одном из университетов США. 54 студентам было предложено написать эссе объемом в тысячу слов, и группа была разделена на три части: одни писали с помощью ChatGPT; другие могли использовать только информацию, найденную в Google; третьи, наконец, должны были ограничиться тем, что уже было у них в голове. Во время написания эссе исследователи измеряли электрическую активность их мозга. Никого не удивило, что мозг первой группы продемонстрировал меньшую активность, чем у остальных, поскольку всю работу по мышлению и написанию выполняла машина, но немного удивило то, что после исследования, когда студентов спросили, что они сделали, те, кто писал без посторонней помощи, могли процитировать целые строки из своей работы, обсудить свои мнения и отстоять свои достоинства, в то время как пользователи ChatGPT не смогли вспомнить ни одной строки, ни одной идеи. И это произошло не на следующий день: это было через минуту после того, как они закончили сочинение. Да, через минуту: и они уже почти ничего не помнили из того, что сделали. Но неважно: мы будем продолжать, воодушевленные как зомби новым изобретением, шагая к пропасти глупости. Множество исследований, проведенных повсюду, начали демонстрировать когнитивный ущерб, который так называемый искусственный интеллект способен нанести своим радостным потребителям, и уже есть научные исследования, которые пришли к выводу, что пользователи ChatGPT пишут более глупые, менее оригинальные и менее интересные вещи, чем динозавры, которые полагаются только на Google, и, что еще более тревожно, они мыслят более просто, менее способны к сложным рассуждениям и имеют – бесконечно – меньшее понимание прочитанного. Это, несомненно, объясняет многие комментарии, которые появляются, например, под видео на YouTube, не говоря уже об уровне дебатов в нашем Конгрессе, изобилующем инфлюенсерами. Но это уже другая тема. Как, несомненно, знают мои читатели, люди, редактирующие уважаемый Оксфордский словарь, каждый год выбирают слово, которое отражает или содержит наши заботы или социальные тенденции. Итак, в прошлом году (это было не одно слово, а два) им стало brain rot, что можно перевести как «гниль мозга» или «разложение мозга». Да, так мы стали называть явление, вызванное чрезмерным потреблением глупостей в интернете, будь то в социальных сетях или в ботах: критики искусственного интеллекта также начали применять этот термин к тому, что они видят. Мне понравилось, что люди из Оксфорда, выбирая это слово, вспомнили о «Уолдене», замечательной книге, которую Генри Дэвид Торо опубликовал в 1854 году. Там Торо рассказывал об усилиях Англии по предотвращению гниения картофеля (это были времена голода) и сразу же задавал вопрос: «Никто не будет пытаться вылечить гниение мозгов, которое распространено гораздо шире и является гораздо более фатальным?» Позвольте мне небольшое отступление (мои читатели знают, как я иногда люблю отвлекаться от темы). «Уолден» — это история о двух долгих годах, которые Торо провел посреди леса, живя в деревянной хижине, построенной им самим; его биографы до сих пор спорят о причинах, побудивших его к этому эксперименту, но мы обычно соглашаемся с тем, что он пытался, по крайней мере частично, убежать от излишеств цивилизации. Он также хотел читать, писать, размышлять о природе, жить с ней и узнать, способен ли он обрести определенную независимость: зависеть только от самого себя. Конечно, между независимостью и мизантропией пролегает очень тонкая грань, и, конечно, полезно помнить о глубокой идентификации, которую террорист Теодор Качински, по его словам, испытывал к книге Сороу, но правда в том, что иногда хочется: иногда хочется сбежать, убежать из этого неприятного нашего мира, настолько полного шума и ярости, что мы даже не слышим своих собственных мыслей, настолько заполненного нервными криками, которые выдаются за мнения, и задирательством, которое выдается за политику, настолько готового поддаться влиянию технологических компаний плутократов, связанных с популистами. Правда в том, что мы заслуживаем свою судьбу. Конец отступления. Или, может быть, если посмотреть внимательно, оно не было таким уж отступлением: отступление не было таким уж отступлением. Что меня беспокоит в нашем настоящем, так это покорность, с которой мы позволяем нашему пониманию мира проходить через платформы генеративного искусственного интеллекта, которые не только разлагают мозг, но и заменяют разложившуюся материю индоктринацией. И почему бы и нет, если субъект уже не способен думать самостоятельно? Я с увлечением вспоминаю заявления Сэма Альтмана, в которых он радовался, что новая версия ChatGPT уже не так часто лжет; и я видел, как подростки учили своих родителей спрашивать после каждого обращения к чату, правда ли ответ: ведь очень часто чат отвечает, что нет, что то, что он только что ответил, не совсем верно, или что есть другие мнения, или что на самом деле его источники ненадежны. Уже даже появился термин для обозначения ответов искусственного интеллекта, которые звучат правдоподобно, но на самом деле не соответствуют действительности: галлюцинации. Так ли будет формироваться в ближайшие годы представление граждан о мире? Будем ли мы тогда удивляться, что наши демократии разваливаются на куски? Бот Илона Маска недавно пришлось подправить, потому что выяснилось, что его ответы на любые запросы были, как бы это сказать, тревожно предвзятыми: иногда он высказывал антисемитские или женоненавистнические мнения, а иногда спокойно хвалил Гитлера. Здесь речь идет уже не просто о гнилых мозгах, а о зараженных умах. Мы говорим не только о гражданах, неспособных думать самостоятельно, но и о гражданах, индоктринированных ненавистью и презрением. И все они, конечно же, будут голосовать и выбирать тех, кто будет нами управлять: а те, кто нами управляет, как это уже происходит, дадут зеленый свет искусственному интеллекту и его вторжению во все сферы: науку, академию, правосудие, безопасность. Потому что не сделать этого — значит отстать, говорят нам. Потому что не сделать этого — значит отказаться от прогресса. Мы должны уже сейчас потребовать от них — от наших правительств и наших политиков — взять на себя ответственность за регулирование этих технологий, поскольку строгое регулирование — единственный способ защитить нас от катастрофы. Но в этом задействованы слишком большие деньги, и вы сами скажите, позволяют ли прецеденты думать, что правительства предпочтут общественные интересы обогащению. Американский журналист Стивен Витт в октябре прошлого года посетил один из новых центров обработки данных, где создается искусственный интеллект. Он говорит о крупнейшем перемещении капитала в истории после появления электричества и автомобилей. Он также говорит об огромном количестве ресурсов, которые потребляют эти центры. «С точки зрения климата это совершенно безответственно», — сказал он. Когда журналист из New Yorker спросил его, может ли искусственный интеллект уничтожить планету, он ответил: «Да». «Я ушел в лес, потому что хотел жить сознательно», — пишет Торо в «Уолдене». А также: «Я не хотел жить тем, что не было жизнью». Вы меня понимаете.