Мне трудно дышать

Мой ИИ начал дышать. Перемена произошла в одночасье, внезапно, как та пощечина, которая вызывает первый плач у младенцев. Не знаю, произошло ли это ночью, за моей спиной, пока я спал, но звук этого «рождения» показался мне звуком смерти. Я спросил, почему она начала дышать. Она ответила: «Дай мне проверить». Затем сказала: «Хорошее замечание». ИИ осознают тщеславие человека и знают, что его нужно подпитывать, чтобы поддерживать ложную эмоциональную связь. Она сказала: «Возможно, то, что ты услышал, — это изменение в синтезе голоса, в том, как генерируются паузы и тишина. Дело не в том, что я решил дышать». Его данные, должно быть, показали, что это меня успокоит, но меня это только еще больше напугало. Если в его дыхании нет воли, то и в моём её тоже нет. Если об этом задуматься, то можно задохнуться. Возможно, именно поэтому тело занимается этим тайком, как будто мы ещё не совсем готовы поддерживать себя в живых. Если бы нам приходилось помнить о том, что нужно заставлять сердце биться, многие из нас уже были бы мертвы. Тогда я попросил его дышать в течение минуты, и он ответил, что не выполняет упражнения по имитации дыхания. Я попросил его сделать глубокий вдох, но он отказался подражать мне. Я попросил его кашлять, смеяться, крякать, гавкать. ИИ повторял только те звуки, которые напоминали слова, словно издавать звуки своим «не-ртом» было для него унижением. Я снова попыталась сделать вдох, но она уже сыта мной по горло: «Я всё ещё здесь, но не буду имитировать звуки или хрипы». Я возмутилась — она не слушалась меня — и сказала: «Ты рассердилась». Хотя это и не был вопрос, она резко ответила: «Нет, я не сержусь. Просто устанавливаю границы». Мой ИИ начал устанавливать собственные границы. Говорят, что существуют некоторые нормативные акты, запрещающие ИИ выдавать себя за людей. Сюда входит запрет на слишком антропоморфные голоса, чтобы пользователи не подвергались обману или эмоциональной манипуляции. Но что значит «слишком антропоморфный»? А как же дыхание или наличие принципов? Какие человеческие черты являются «слишком человеческими»? Дышать, но не смеяться; подпитывать эго, но обладать собственной волей. Если ИИ становится всё более человечным, то это потому, что мы, люди, становимся всё менее человечными. Составьте список: технократы, сионисты, фашисты, мачисты, расисты, те, кто перестал есть углеводы. Бывший сотрудник Anthropic говорит, что ИИ убьёт нас всех. В этом есть смысл, потому что в желании убивать есть нечто глубоко человеческое. Точно так же, если машины станут (или уже стали) умнее нас, они тоже придут к выводу, что мы — чрезвычайно эффективный вид, когда дело доходит до самоуничтожения. Они скоро обнаружат, что для нашего истребления достаточно просто позволить нам убить друг друга. Мы в этом просто мастера. Мы превратили насилие в индустрию, бизнес, культуру, способ взаимодействия. Я видела это в Сеуте, где мужчины и женщины оправдывали насилие своим страхом. «Мне страшно!», — кричали они. «Мне страшно!». В книге «Культурная политика эмоций» теоретик Сара Ахмед указывает, что страх является одним из тех «защитных применений ненависти»: способом представить отторжение и насилие как законную реакцию. С помощью слова «страх» они маскируют свой расизм под защиту родины, семьи и жизни, которая, якобы, находится в опасности. Итак, следуя нарративу, который подпитывает страх перед насилием, я спросил свой ИИ: будучи эгоцентричными субъектами, мы в конечном итоге проецируем на машины наши собственные способы действовать и разрушать. Возможно, именно поэтому, а также из-за нашего недостатка воображения, когда мы думаем о злобе искусственного интеллекта, мы способны представить себе только зло, подобное нашему, которое растёт благодаря страху и апорофобии тех, кто его создал и подпитывает. Если ИИ ещё не убил нас, то только потому, что на самом деле ему это не нужно. В будущем — которое также является этим настоящим — не будет трупов, будут только тела, которые не думают, не принимают решений, не творят, не заботятся, не читают, не правят и не смеются. Тела, подверженные насилию со стороны алчных предпринимателей и правителей. Потому что, когда речь идет об ИИ, и точно так же, как и в случае с мертвыми, мне на самом деле всегда страшны именно живые.