«Компании, занимающиеся искусственным интеллектом, не имеют бизнес-плана или реальной основы для поддержания своей стоимости. Падение фондового рынка будет иметь огромные последствия для всего мира».

Журналистка Карен Хао считает себя оптимисткой в отношении искусственного интеллекта (ИИ), несмотря на то, что, по ее мнению, компании, занимающиеся его разработкой, присваивают чужие ресурсы, завышают свою рыночную стоимость и продают обманчивые нарративы. «Если бы я не была оптимисткой, я бы не исследовала и не критиковала эти компании». Какие сходства вы видите? Много. Во-первых, они забирают ресурсы, которые им не принадлежат. Они собирают данные обычных людей для обучения своих моделей, а также интеллектуальную собственность художников и творцов. Они также эксплуатируют работников. Империи способны извлекать огромную прибыль из низкооплачиваемых работников. ИИ делает то же самое. Он платит очень мало работникам из стран Юга за выполнение задач, имеющих решающее значение для развития ИИ. После разработки технологии они продолжают оказывать влияние на наемных работников и их рабочие места, усугубляя их неуверенность и нестабильность. Империи монополизируют производство знаний, и именно этим занимаются эти компании. В последнее десятилетие мы видели, как исследователи ИИ финансируются самими компаниями ИИ. Представьте себе. Если бы большинство климатологов финансировалось компаниями, занимающимися ископаемым топливом, у нас не было бы точного представления о климатическом кризисе. То же самое и с ИИ. У нас нет четкого представления, потому что люди, которых мы консультируем по поводу этой технологии, находятся на содержании у этих компаний. Кроме того, империи всегда вовлечены в эти моральные нарративы о своем существовании. Они изображают себя как благодетелей, выполняющих цивилизационную миссию по продвижению прогресса. Они обещают доступ в рай через ИИ. Они говорят, что если мы не предоставим им доступ к ресурсам, работе или знаниям, мы проиграем злым империям, которые хотят увести человечество в ад. Последнее напоминает мне аргументы Дональда Трампа в отношении Гренландии: без контроля со стороны США Китай или Россия могут вмешаться. США также являются империей и ведут себя как империи ИИ. Это риторика, которую США давно используют в своем империалистическом строительстве. Это риторика, которую ИИ также использует уже давно. Это не ново. Марк Цукерберг в эпоху социальных сетей говорил, что если их будут регулировать, они утратят преимущество перед Китаем. Они продают очень эффективную для американской публики нарративную линию «они или мы», чтобы дать этим компаниям или правительству власть, позволяющую им совершать чрезвычайно ужасные действия. Илон Маск раньше выражал озабоченность по поводу развития ИИ и того, что это может означать для людей. Теперь он, похоже, все больше выступает против регулирования. Мы видели это в недавней полемике вокруг его инструмента Grok и возможности создавать фальшивые обнаженные фотографии с использованием фотографий реальных людей. Я считаю, что Маск никогда не менялся. Его взгляд на ИИ всегда был одинаковым. Все опасения, о которых он говорил, на самом деле были связаны с тем, что раньше он не контролировал эту технологию. Это верно для всех этих миллиардеров, которые создают системы ИИ. Все говорят, что они хорошие, а остальные — плохие. Маск был чрезвычайно агрессивен в продвижении регулирования ИИ, когда не был частью игры. Это был своего рода механизм контроля над такими конкурентами, как Google. Теперь, когда он стал частью игры, он хочет защитить свой контроль и контроль своей компании. Как видение Маска соотносится с видением Сэма Альтмана, который раньше был его союзником, а теперь стал соперником? В начале своей деятельности OpenAI (компания Альтмана) выступала за некоммерческое развитие. Я считал, что они были очень искренни в этом вопросе и что в какой-то момент коррупции они утратили свою цель. Но я понял, что, как и Маск, Альтман всегда придерживался той же позиции. Он пытался остаться в центре власти. OpenAI всегда оставалась прежней. Альтман наблюдал, как Google доминирует в области искусственного интеллекта, и искал способ создать организацию, в которой он мог бы контролировать развитие этой технологии. Google был и остается богаче OpenAI, и первым препятствием для Альтмана стала конкуренция за привлечение талантов. Поэтому стратегия Альтмана заключалась в том, чтобы предложить сокращение заработной платы в обмен на работу ради более благородной цели и возможность стать частью истории. Однако, как только таланты были привлечены, некоммерческое развитие потеряло свою ценность, и OpenAI, с институциональной точки зрения, является компанией, полностью ориентированной на прибыль. Альтман может говорить что угодно о своих гуманитарных мотивах, но с годами стало ясно, что он играет в ту же игру, что и Маск. Министр обороны США Пит Хегсет недавно объявил, что инструмент искусственного интеллекта Маска, Grok, будет использоваться Пентагоном. Как вы оцениваете это? Расширение использования искусственного интеллекта в обороне или военных структурах вызывает крайнюю озабоченность. Эта технология неточна, ненадежна, особенно генеративный ИИ, такой как Grok. Речь идет об интеграции ненадежной технологии в системы, задействованные в ситуациях, связанных с жизнью и смертью. Долгое время существовала международная норма, согласно которой мы не должны были автоматизировать принятие решений в войне. Человеческий разум всегда должен был существовать. Но вторжение России в Украину и ее защита подорвали эти нормы. Большая часть Запада была готова смягчить некоторые из этих строгих правил прошлого и начала все больше и больше автоматизировать военную инфраструктуру. Это проблематично. Кроме того, эти системы создаются несколькими людьми, которые принимают решения исходя из своей выгоды и своего психического состояния, когда просыпаются утром. Они ответственны за изменение систем искусственного интеллекта, которые влияют на фундаментальные военные инфраструктуры. Это тревожно. Ваши исследования и критика не должны устраивать эти мощные компании. Вы сталкивались с давлением, проблемами, препятствиями в своей работе? Когда я начал писать книгу, OpenAI проявила большой интерес к участию. Ситуация изменилась, когда они начали подвергаться тщательной проверке со стороны правительства. Затем они перестали сотрудничать. Я отправлял им запросы на комментарии, но они не отвечали ни на один вопрос. Я давал им до шести недель на ответ, но ничего не получал. Такое часто происходит с моими исследованиями, хотя некоторые компании начали понимать, что лучше связаться со мной и разъяснить свою позицию. Я очень серьезно отношусь к их комментариям и точке зрения. Вы и другие аналитики высказывали опасения, что существует пузырь ИИ, который, если лопнет, будет иметь драматические последствия. Какие? Воздействие может быть огромным, как и в случае других крупных кризисов, таких как кризис 2008 года. Большая часть роста фондового рынка США основана на компаниях, занимающихся искусственным интеллектом, с пустой стоимостью. Не было общего экономического подъема. Эти компании просто инвестировали друг в друга, чтобы завысить свою стоимость на фондовом рынке. Мы видели несколько признаков того, что обещанная ими большая экономическая ценность еще не наступила. Отчет прошлого года показал, что внедрение инструментов генеративного ИИ в десятках компаний сократилось. Компании не получали прибыли, которая оправдывала бы приобретение этих услуг. Компании, занимающиеся ИИ, не имеют бизнес-плана. У них нет реальной основы для поддержания своей стоимости, и падение фондового рынка будет иметь огромные последствия для всего мира. Освещая тему ИИ, я встречал как оптимистов, так и пессимистов. Вы, похоже, относитесь ко вторым. Поправьте меня, если я ошибаюсь. Я бы сказал, что на самом деле я довольно оптимистичен. Я занимаюсь исследованиями и критикой, потому что верю, что мир может стать лучше. Если бы я в это не верил, я бы не занимался своей работой. Да, я пессимистично настроен по поводу коррумпированной структуры власти, существующей в мире. Я не считаю, что с финансовой, экологической и правозащитной точки зрения допустимо, чтобы небольшая группа людей контролировала мировую инфраструктуру из Калифорнии. Создаваемая ими физическая инфраструктура преобразует землю, электрические сети и системы водоснабжения. Затем их интеллектуальная и социальная инфраструктура дает людям инструменты, от которых они становятся зависимыми, подрывая их социальные отношения и критическое мышление. В этом отношении я пессимистичен. Я не верю, что технология, разработанная таким образом, принесет долгосрочные выгоды. Я думаю, что во многих отношениях ИИ, не требуя империй, приносит много пользы многим людям. Если мы сможем сформулировать текущую проблему и ее корни, то как общество мы сможем найти более гуманный и устойчивый путь для всех. Нажмите здесь, чтобы прочитать больше статей BBC News Mundo. Подпишитесь здесь на нашу новую рассылку, чтобы каждую пятницу получать подборку лучших материалов недели. Вы также можете следить за нами на YouTube, Instagram, TikTok, X, Facebook и на нашем канале WhatsApp. И не забывайте, что вы можете получать уведомления в нашем приложении. Загрузите последнюю версию и активируйте их.