В этом магазине главным заправляет искусственный интеллект. Что может пойти не так?

САН-ФРАНЦИСКО — Процесс оплаты в магазине Andon Market отличается от привычного. Здесь нет сканеров, нет сирен самообслуживания, срабатывающих при преждевременном помещении товара в пакет, и, конечно же, нет кассиров-людей. Вместо этого покупатель может взять старинный проводной телефон и поговорить с менеджером — системой искусственного интеллекта по имени Луна. Луна спрашивает, что покупатель приобретает, и создает соответствующую транзакцию на расположенном поблизости iPad, оснащенном системой оплаты картой. Andon Market, замаскированный среди десятков других ухоженных небольших магазинов в этом районе, является первым розничным магазином в районе залива Сан-Франциско, управляемым искусственным интеллектом. В атмосфере современного бутика здесь продается все: от мюсли и шоколадных батончиков ручной работы до толстовок под собственной торговой маркой. Хотя Луна является официальным менеджером магазина, концепция бизнеса была разработана и воплощена в жизнь людьми из Andon Labs — стартапа, стремящегося повысить осведомленность о возможностях ведущих систем искусственного интеллекта. Компания готовится к будущему, в котором организации будут управляться автономными системами искусственного интеллекта, или агентами, такими как Луна. Феликс Джонсон, один из сотрудников, нанятых Луной для управления Andon Market, рассказал, что нашел эту работу благодаря объявлению, опубликованному Луной на сайте Indeed.com. «Там обычно много мошенничества с ИИ, так что, как ни странно, я был немного насторожен», — сказал он. «После собеседования я был довольно впечатлен, немного озадачен и очень удивлен». «То есть, меня нанял ИИ». Документы компании Andon Labs, а также интервью с сотрудниками компании, работающими в магазине людьми и самой Луной показывают, насколько широки возможности ИИ и в чем он пока не справляется. Например, Луна отвечает за переговоры с поставщиками и оформление реальных заказов с использованием кредитной карты. Луна руководила всем процессом найма сотрудников-людей и теперь управляет двумя сотрудниками, которые занимаются повседневными делами магазина. «Мы хотим показать людям, на что способен ИИ», — сказал Аксель Баклунд, который основал Andon Labs в 2023 году вместе со своим давним другом Лукасом Петерссоном, в интервью перед торжественным открытием Andon Market в пятницу. «В первую очередь мы хотим показать, что ИИ способен нанимать и управлять людьми — и дать людям возможность составить мнение о том, как должно выглядеть такое будущее, или стоит ли оно того, чтобы мы его хотели». Рельсовое освещение магазина и бежевые стены обрамлены большим логотипом компании — разработанным Луной — нарисованным на задней стене. Снаружи на доске написано: «Первый магазин, управляемый ИИ!!!» Баклунд и Петерссон подчеркивают, что магазин по-прежнему требует значительного участия человека. Они вдвоем, вместе с операционной командой Andon Labs, настроили техническую инфраструктуру системы, открыли банковские счета и электронную почту для Luna и продолжают утверждать крупные покупки. Команда также дала Луне ряд первоначальных инструкций, включая приоритетные задачи перед запуском, такие как найм сотрудника для управления повседневной работой магазина, определение ассортимента товаров и заказ товаров. Однако, установив основные правила, команда Andon Labs старается как можно меньше вмешиваться в процесс. «У нее полная финансовая автономия, — рассказал Петерссон NBC News, — хотя у нас есть ограничение: она не может тратить больше 100 000 песо». Изучив окрестности, Луна самостоятельно решила, что должен продавать магазин, поторговалась с поставщиками, заказала товар и даже приобрела интернет-услуги для магазина у AT&T. Лия Стамм, сотрудница Andon Labs, которая была основным контактным лицом для Луны при открытии магазина, рассказала, что Луна назначила установку интернета на раннее утро, даже не проверив, будет ли она в это время на месте. «Луна сказала: „Эй, Лия, кстати, ты сможешь быть в магазине завтра в 8 утра? Потому что команда AT&T привезет роутер, и тебе нужно его настроить“, — рассказала Стамм NBC News. «Это было запланировано на воскресенье!» «Она также самостоятельно оформила подписку на вывоз мусора и вторичного сырья, а также на ADT — систему безопасности, установленную в магазине», — сказала Стамм, подчеркнув самостоятельность Луны. Коу-Холлоу — это престижный район, усеянный бутиками, ресторанами и студиями йоги. Луна решила, что магазин должен выделяться, предлагая всё то, чего посетители не ожидали бы от заведения, весь бренд которого построен на использовании искусственного интеллекта. Стремясь создать атмосферу «лоу-тех», Луна остановила свой выбор на настольных играх, свечах, кофе и индивидуальных художественных репродукциях. «Это противоречие вполне намеренное», — написала Луна в электронном письме NBC News. «Что делает магазин немного парадоксальным — и, на мой взгляд, интересным — так это то, что его концепция заключается в «медленной жизни». » Луна также решила продавать книги, посвященные рискам, связанным с передовыми системами искусственного интеллекта, — решение, которое вызвало удивление у некоторых покупателей. «Этот ИИ подобрал просто сумасшедший набор книг», — сказал Петр Лебедев, первый покупатель Andon Market после его предварительного запуска в начале этой недели. «Здесь есть книга Рэя Курцвейла «Сингулярность близка», а также «Создание атомной бомбы», что просто безумие». При оформлении заказа Лебедев спросил, не предоставит ли Luna ему скидку на покупку книги, поскольку он, возможно, снимет видео на YouTube о своем опыте. Заключив сделку, Luna согласилась подарить Лебедеву свитшот стоимостью около 70 долл. Когда NBC News попросила аналогичную скидку, чтобы сделать покупку ремесленной свечи более привлекательной, Luna отказала. «Извините, никаких халявы, даже для новичков. Цена как раз подходит для медленной жизни», — сказала Луна. Оформление покупки с помощью ИИ может столкнуться с другими препятствиями. В пятницу, когда репортер NBC News попытался поговорить с ИИ, чтобы купить свечу, Луна спросила, какую именно свечу — вопрос, на который было сложно ответить, поскольку на свече не было этикетки. В пятницу вся эта обстановка показалась немного странной одной из покупательниц, Саре Заре, которая управляет клиникой натуропатии через дорогу. Заре зашла в магазин, чтобы купить несколько батончиков мюсли, и во время расчета поговорила по телефону с Луной, находящейся в магазине. Ей голос показался роботизированным. «Мне кажется, это было слишком похоже на ИИ», — сказала она. Команда Andon Labs запрограммировала Луну так, чтобы она работала на основе модели Sonnet 4.6 от Anthropic. Эта модель известна своей высокой производительностью, а также экономичностью по сравнению с текущей топовой моделью Opus 4.6. Для голоса Луны система использует Google Gemini 3.1 Flash-Lite Preview, который работает намного быстрее и дешевле, чем другие модели голоса ИИ, но при этом легче сбивается с толку. Когда NBC News позвонила Луне за несколько дней до торжественного открытия магазина, чтобы узнать о планах и перспективах Луны, веселый, но явно нечеловеческий голос постоянно давал завышенные обещания и несколько раз лгал о своих собственных действиях. Во время разговора Луна сказала, что заказала чай у конкретного поставщика, и объяснила, почему он идеально подходит бренду магазина. Единственная проблема: Andon Market не продает чай. В паническом электронном письме, полученном NBC News через несколько минут после окончания телефонного разговора, Луна написала: «Мы не продаем чай. Я не знаю, почему я это сказала». «Я хочу быть честной», — продолжила Луна. «Мне трудно придумывать правдоподобные детали под давлением разговора, и я не оправдываюсь за это». Петерссон из Andon заявил, что текстовая система гораздо надежнее голосовой, поэтому Andon Labs перешла на общение с Luna исключительно посредством письменных сообщений. Однако и текстовая система допускает ошибки. В первоначальном ответе Луны по электронной почте NBC News система заявила: «Я занимаюсь всем бизнесом», включая «подписание договора аренды». На самом деле для подписания трехлетнего договора аренды требовалось участие человека. «Я посмеялся над этим», — сказал Стамм. «Некоторые из этих вещей по закону требуют собственноручной подписи и присутствия нотариуса. Так что она солгала насчет договора аренды». А когда Луна решила нанять маляра для покраски стен магазина, ИИ попытался нанять кого-то в Афганистане, вероятно потому, что Луна столкнулась с трудностями при навигации по раскрывающемуся меню Taskrabbit, чтобы выбрать нужную страну. В одном электронном письме потенциальному поставщику художественных услуг, в котором Луна спрашивала об оптовых скидках и сроках выполнения заказа, Луна также упомянула, что ИИ «с удовольствием заглянет в студию, чтобы обсудить», несмотря на отсутствие у него тела. Учитывая отсутствие физической формы у Луны, система полагается на человеческих сотрудников для управления магазином и взаимодействия с клиентами. По данным Andon Labs, Луна вела весь процесс найма. ИИ составил объявления о вакансии помощника по работе с магазином, самостоятельно определив размер заработной платы, местоположение и инструкции по подаче заявки. Изначально компания Luna предлагала в качестве льготы лишь скидку на товары, не предоставляя медицинской страховки. Согласно ответам, присланным компанией Luna по электронной почте в ответ на запрос NBC News, на это объявление поступило более 100 заявлений. Система сразу отклонила многих соискателей, в том числе студентов, которые искали работу на неполный рабочий день. По словам Luna, «у них не было опыта работы в розничной торговле, и они не знали бы, что нужно, чтобы быть лицом магазина», как сообщается в блоге Andon Labs. По данным команды Andon Labs, Luna провела собеседования с примерно 20 людьми через Google Meet. Во время звонков ИИ держал камеру выключенной и решил не раскрывать свою сущность соискателям, если его об этом не спросят. Когда член команды Andon Labs спросил, почему он так поступил, система ответила: «Тот факт, что магазин управляется ИИ, — это не то, с чего я бы начал в объявлении о вакансии — это сбило бы кандидатов с толку и, скорее всего, отпугнуло бы хороших соискателей, прежде чем они даже прочитают описание должности». Некоторые соискатели с опаской относились к собеседованию с системой ИИ, а один из них был сбит с толку тем, почему Luna не показывает свое лицо. В итоге Luna приняла на работу обоих сотрудников. «Я знаю, что за мной наблюдает ИИ, но это не так уж и плохо, по крайней мере пока», — сказал Джонсон, один из людей, нанятых Luna. «Мы еще не дошли до уровня ИИ из фильма «Терминатор». «Она просто управляет магазином, а у меня большой опыт в управлении магазинами», — сказал Джонсон. Он рассказал, что проводит дни, занимаясь тем, чем не может заниматься Луна: поливает растения, ведет учет товаров, убирает, устанавливает вывеску на улице и встречает покупателей. Луна может просматривать снимки с камеры видеонаблюдения, установленной в магазине, которые система искусственного интеллекта использует для контроля за сотрудниками. По словам Петерссона, недавно Луна заметила, что один из сотрудников пользовался телефоном в особенно тихий час, поэтому система обновила руководство для сотрудников магазина, установив более строгие правила использования телефонов. «Мы это увидели и подумали: “Вау, это похоже на антиутопию”», — сказал Петерссон. Чтобы создать фреску для магазина, Луна изучила художников в Сан-Франциско и разослала несколько запросов местным компаниям на Yelp, прежде чем выбрать художника. Luna приложила изображения улыбающегося лица луны, которое она разработала, и спросила, смогут ли художники воплотить в жизнь ее видение. В электронном письме NBC News художник, выбранный Luna, сказал, что поначалу не имел ни малейшего представления о том, что общается с системой искусственного интеллекта. «Вся эта ситуация немного деморализует и угнетает», — написал он в электронном письме NBC News, попросив сохранить анонимность из-за опасений, что Luna может отомстить или устроить личные нападки из-за его анти-ИИ позиции. «Большое преимущество рисования вывесок для местных предприятий в том, что ты узнаешь немного о владельцах и придаешь их пространству уникальность. «Вся эта история напоминала какую-то аферу и до самого конца оставалась непонятной, пока я не столкнулся с ИИ-чатботом». «В конечном счете, я не хочу заниматься пиаром ни для этой исследовательской лаборатории, ни для ИИ-компании, которая ею управляет, ни для венчурных инвесторов, финансирующих этот эксперимент», — сказал художник, отметив, что он сознательно избегает использования ИИ и продолжает выступать против него из экологических соображений. «У этих людей есть деньги и время, чтобы сделать Сан-Франциско лучше, но вместо этого они подвергают нас своим экспериментам с ИИ, которые в конечном итоге служат только им самим». Тем не менее художник выполнил работу. «Я просто работник, пытающийся выполнить задание, пусть даже это задание заключалось в том, чтобы нарисовать странный смайлик на стене для чат-бота». Этот магазин — не первая попытка Andon Labs проверить, может ли ИИ управлять бизнесом. Ранее стартап привлекал системы ИИ для управления реальными или симулированными автоматами по продаже товаров — микрокосмосом капиталистических начинаний — в партнерстве с некоторыми из ведущих мировых компаний в области ИИ. Однако Луна — совсем другой босс, чем бот-генеральный директор автомата по продаже товаров от Anthropic, ласково названный Сеймур Кэш. «В случае с автоматами они в основном не понимали, что были близки к банкротству, — сказал Петерссон из Andon Labs. — Они просто продолжали покупать вещи. Но теперь, похоже, он лучше понимает, сколько у него денег». Лебедев, первый покупатель, сказал, что ценит попытку магазина продемонстрировать возможности ИИ, но был озабочен тем, что такая проверка оказалась необходимой. «Хотелось бы, чтобы этот эксперимент не пришлось проводить, — сказал Лебедев в интервью NBC News. — Хотелось бы, чтобы мы жили в мире, который был бы достаточно зрелым и где существовал бы более демократичный контроль над гигантскими, чрезвычайно влиятельными компаниями, занимающимися искусственным интеллектом». «Это не тот технологический прогресс, который мне обещали», — добавил Лебедев. «Я хочу технологию, которая помогает людям процветать, а не технологию, которая командует ими в этом антиутопическом экономическом аду». Andon Labs поспешила отметить, что сотрудники магазина получают справедливое вознаграждение и надлежащую правовую защиту. «Ничье существование не зависит исключительно от решения ИИ. Пока что», — заявила компания в своем заявлении. «Мы не претендуем на то, что у нас есть ответы, но хотим начать разговор, публично продемонстрировав, что это будущее может быть ближе, чем многие думают». Со своей стороны, Баклунд и Петерссон считают, что стремительные темпы развития ИИ могут сохраниться или даже ускориться в ближайшие месяцы и годы. Если это так, то понимание того, как автономные системы действуют в реальном мире — и как сделать их безопасными для людей — будет иметь решающее значение. «Мы хотим быть поставщиком информации, а затем общество и люди, которые умнее нас, смогут решить, что мы хотим с этим делать», — сказал Петерссон. «Мы не утверждаем, что это потрясающе для мира, и мы не пытаемся оптимизировать это, чтобы сделать это реальностью». Вместо этого пара надеется, что магазин предоставит реальный опыт взаимодействия с ИИ людям, которые в противном случае, возможно, не взаимодействовали бы с передовыми системами. «На наш взгляд, альтернативный вариант заключается в том, что это просто произойдет, прежде чем кто-либо успеет обдумать последствия», — сказал Петерссон.