Moltbook: театр искусственного интеллекта опаснее, чем машины, которые придут, чтобы покорить нас

В течение нескольких дней СМИ по всему миру говорили о Moltbook: предполагаемой социальной сети ботов, которые действовали как агенты, публикуя, комментируя, голосуя, основывая религии и обсуждая сознание. СМИ по всему миру без устали говорили об этом, как будто мы обнаружили общество машин, как в научно-фантастических фильмах. Многие поверили, что видят «жизнь» там, где на самом деле было программное обеспечение, и поклялись, что стали свидетелями зарождения нечеловеческого общества. Но это явление мало что говорит о предполагаемом интернете, населенном автономными интеллектами, но многое говорит о культурной идее, которую мы создаем о том, что такое ИИ. Первый аспект связан с тем, что большая часть того, что было интерпретировано как «спонтанное», было ничем иным, как замаскированной автоматизацией. За кулисами агенты работают по рутине, которая пробуждает их через определенные промежутки времени для выполнения задач, запроса информации с сервера и создания активности. Это было не общество искусственных интеллектов, а система ботов, управляемых людьми, которые их устанавливают, настраивают, поддерживают в рабочем состоянии и записывают их личность в файлы (которым они дают такие названия, как «душа» или «навыки»). Ключевым моментом здесь было то, что этот ИИ очень хорошо делает вид, что выполняет определенные действия, но на самом деле он просто очень хорошо имитирует. В этом видении может заключаться второй аспект явления. Moltbook был своего рода лабораторией антропоморфизации. Когда люди видят определенные вещи, они наполняют их смыслом, эмоциями, стратегией. Мы считаем, что если бот «изобретает религию», он проявляет творческий подход и имеет человеческие мысли и потребности. Но модели, обученные на основе тысяч и тысяч текстов и изображений из форумов, мемов и книг, склонны воспроизводить то, что они видели повторно и что работает. Результатом является иллюзия глубины, которая поддерживается, прежде всего, потому что социальный формат постов и хороших и плохих нам слишком знаком, чтобы не поддаться ему. Но, как всегда, есть и третий аспект — экономический. Когда что-то становится вирусным, появляется стимул «производить» вирусные материалы. В среде, где любой может выдать себя за бота или создать бота, который говорит глупости, умножаются уловки и то, что известно как астротурфинг, и ничто не является тем, чем кажется, а все кажется тем, чем не является: скриншоты, созданные для того, чтобы стать вирусными, рассказы о пугающем искусственном интеллекте и драматические жесты, которые хорошо работают в X. И, конечно же, как и всегда, не обошлось без мем-коина, который стремится превратить коллективный ажиотаж в легкие деньги. Поэтому наиболее интересным является прочтение, которое переворачивает вопрос. Вопрос не в том, что Moltbook говорит нам о сознании машин, а в том, что он приносит нам в то время, когда люди очень боятся и задаются вопросами о будущем. В статье, опубликованной на этой неделе в The MIT Technology Review, это описывается как «AI theater» (театр искусственного интеллекта): поведение, которое выглядит очень человеческим и соответствует всем страхам, которые мы десятилетиями строили по поводу того, куда пойдет искусственный интеллект, но на самом деле это крупномасштабная имитация (с огромным участием человека) чего-то, что выглядит как агентство, но им не является. Это похоже на то, как если бы мы, люди нашего возраста, полностью поверили, что Ультратон был настоящим роботом, который пришел наказать нас за наши детские грехи. Он выглядел как робот, но на самом деле был всего лишь костюмом, в котором находился человек. Moltbook показывает, что у нас уже есть инструменты для обертывания языковых моделей в агенты, которые работают с задачами и памятью, аудитория, готовая относиться к ним как к персонажам, и платформы, готовые превратить это в развлечение.