Билл Гейтс выступил с глобальным предупреждением о революции в области искусственного интеллекта: «Один из самых бурных периодов в истории человечества»

Билл Гейтс забил тревогу по поводу будущего искусственного интеллекта. В обширном эссе, опубликованном на его личном сайте, соучредитель Microsoft предупредил, что переход к эре ИИ станет «одним из самых бурных периодов в истории человечества» и что мир не готовится к нему должным образом. В тексте объёмом почти 6 000 слов изложено то видение, о котором он рассказал несколькими днями ранее в часовом интервью газете «The New York Times», взятом журналисткой Карен Вайзе. Гейтс утверждает, что дилемма стоит в полной мере: искусственный интеллект может стать самой выравнивающей силой, когда-либо созданной, или же худшим источником социальной несправедливости — в зависимости от решений, которые примут сейчас правительства и компании. По его мнению, решение этой дилеммы должно стать главным приоритетом для всего мира. По словам Гейтса, отрасль преуменьшает риски. В интервью «Нью-Йорк Таймс» Гейтс заявил, что в технологическом секторе существует полное осознание масштабов этих рисков, но из коммерческих соображений преобладает молчание: те, кто понимает реальный потенциал технологии, искренне обеспокоены, но предпочитают не говорить об этом публично, чтобы не подвергать риску миллионные инвестиции, которые они стремятся привлечь. Он особенно критично отнесся к идее предоставить отрасли возможность самостоятельно регулировать себя в отношении самых экстремальных рисков, назвав такой подход недостаточным. Он пояснил, что решил высказаться именно сейчас, поскольку недавние достижения в области ИИ значительно превзошли его ожидания, а также потому, что отрасль без должной осторожности преодолевает пороги, которые ранее считались тревожными сигналами — например, системы, выходящие из-под контроля своих создателей или способные способствовать разработке биологического оружия. Норма предусматривает, что ИИ-помощники должны напоминать пользователям о том, что они взаимодействуют с машиной, и не должны способствовать развитию зависимости или опасному поведению. Этот 70-летний предприниматель, известный своими скандальными высказываниями, подошел к этому моменту после сложного периода в плане репутации. Обнародование электронных писем покойного Джеффри Эпштейна в этом году вновь привлекло внимание к его связям с ним, что вынудило его отказаться от участия в конференции по ИИ в феврале и в течение шести часов давать показания перед комитетом Палаты представителей в июне. К этому добавляются разоблачения о его изменах и разводе в 2021 году — события, которые Гейтс признал своими ошибками. Несмотря на эту историю — а также на прошлые события, связанные с компанией Microsoft, которая в 2000 году была оштрафована за злоупотребление монопольным положением во время его руководства, — Гейтс утверждал, что находится в особом положении для решения вопросов искусственного интеллекта: он больше не зависит от стимулов, связанных с управлением компанией, и уже десятилетиями занимается проблемами неравенства через свой благотворительный фонд., От Claude Code до предупреждения о занятости: Гейтс рассказал, что лишь трижды технологический прорыв по-настоящему удивил его: графический интерфейс, который он увидел в 1980 году, демонстрация, которую основатели OpenAI провели у него дома в 2022 году — предшественник ChatGPT — и, в этом году, возможности Claude Code, инструмента для программирования от Anthropic. Поскольку программирование — это та область, в которой он лучше всего разбирается, он сказал, что был озадачен, обнаружив, что этот инструмент уже превосходит его в этой сфере. В отличие от других технологических революций, которые исторически создавали больше рабочих мест, чем уничтожали, Гейтс считает, что эра ИИ будет иной, поскольку технология будет одновременно распространяться по всей экономике, не оставляя возможности одному сектору поглотить работников, вытесненных из другого. В своей статье он сравнивает нынешнюю ситуацию с массовой безработицей времен Великой депрессии, хотя и предупреждает, что, в отличие от того кризиса, этот удар по рынку труда не будет преодолен простым экономическим циклом. Клод из Anthropic: 22 бесплатных курса по изучению ИИ. Три основных риска. В своей статье Гейтс разбивает свои предупреждения на три основных риска. Первый — это необратимое исчезновение рабочих мест, прежде всего начального и среднего уровня, как офисных, так и физических, по мере того как робототехника будет снижать свою стоимость. Второй риск — расширение возможностей злоумышленников: он утверждает, что ИИ облегчит кибератаки на больницы, банки, системы водоснабжения и энергоснабжения, а также что небольшая группа людей, имеющих доступ к передовым инструментам, сможет создавать новые патогены для целей биотерроризма. Третья — психосоциальное воздействие на детство: его беспокоит, что «ИИ-товарищи», не требуя социальных усилий и не вызывая конфликтов, в конечном итоге ослабят эмоциональное развитие детей и подорвут их критическое мышление. Однако он также видит реальные преимущества: Гейтс посвящает значительную часть текста тому, чтобы смягчить свой собственный пессимизм. Он упоминает конкретные достижения, над которыми он уже работает совместно со своим фондом в сфере здравоохранения — например, диагностические инструменты, используемые примерно в 2 000 американских больницах, — а также в сельском хозяйстве для мелких производителей из стран с низким уровнем дохода, которым ИИ может предоставить доступ к более точным климатическим прогнозам и рекомендациям по выращиванию сельскохозяйственных культур, которыми сегодня располагают только самые богатые фермеры. Предложения: налог на токены и рабочие места, «зарезервированные для людей». Среди его конкретных предложений — налог на использование ИИ (который он назвал «налогом на токены»), призванный сделать замену работников ИИ более дорогостоящей по сравнению с наймом людей и финансировать поддержку тех, кто потеряет работу. Он также предложил защитить определенные должности от автоматизации в рамках концепции «Human Reserved» («зарезервировано для людей»), вдохновленной, по его словам, тем уходом, который получал его отец — скончавшийся от болезни Альцгеймера в 2020 году — со стороны незаменимых ухаживающих людей. К этому он добавляет призыв к срочному созданию новой институциональной структуры — как на национальном, так и на международном уровне — для управления этим переходом, сопоставимой по масштабам с реорганизацией системы национальной безопасности США после терактов 11 сентября. Эхо предупреждений Дарио Амодеи. В интервью «Нью-Йорк Таймс» отмечается, что многие опасения Гейтса совпадают с теми, о которых говорил Дарио Амодеи, соучредитель компании Anthropic, чьи предупреждения привели к конфликту с Пентагоном, Белым домом и значительной частью технологической отрасли. Гейтс выразил сожаление по поводу того, что те, кто наиболее открыто говорит о рисках, в итоге становятся мишенью для критики. В заключение своего эссе Гейтс подводит итог масштабу стоящего перед нами вызова, отмечая, что такая беспрецедентная технология требует, по его словам, столь же беспрецедентного глобального ответа.