Управление искусственным интеллектом: величайший вызов человечества в XXI веке

В какой-то момент последнего десятилетия искусственный интеллект (ИИ) перестал быть футуристической мечтой и стал тихим советником в нашей жизни. Он решает, что мы смотрим, что покупаем, с кем общаемся, а иногда даже о чем думаем. Его алгоритмы учатся быстрее, чем наши законы, и распространяются быстрее, чем наша способность их понять. Беспокоит не его мощь, а отсутствие правил, которые могли бы ее сдержать. В то время как машины учатся рассуждать, человечество все еще обсуждает, как и кто должен их контролировать. Будущее не ждет, и управление ИИ больше не является темой научной фантастики, это срочная задача, которая может определить, к какому будущему мы идем. «Мы стоим перед самой сложной проблемой управления, с которой когда-либо сталкивалось человечество, — ИИ. По поручению Организации Объединенных Наций с 2021 года ведется работа над тем, как заставить все страны согласиться на международную систему регулирования, прежде чем появится ИИ, который нам не понравится», — отметил Гильермо Гандара, директор Ибероамериканской сети перспективного анализа (RIBER), на презентации книги «Состояние будущего 20.0». Книга, изданная Millennium Project, была представлена в городе Ла-Пас в рамках Futures Week 2025. Глобальный отчет, в котором собраны работы экспертов из более чем шестидесяти стран, предупреждает о серьезных вызовах, которые определят следующее десятилетие: от изменения климата и экономического неравенства до управления искусственным интеллектом, нового двигателя и риска XXI века. «Эта книга — плод коллективного интеллекта. В ней прослеживается ведущая роль латиноамериканского взгляда, и мы понимаем, что больше не можем быть зрителями, а должны стать главными действующими лицами. Мы должны понять, какую роль мы будем играть как регион при переговорах об управлении ИИ», — добавила Вероника Агреда, ректор Университета Франца Тамайо. ИИ между обещанием и угрозой Один из разделов документа посвящен ускоренному развитию ИИ. Он считает его мощным инструментом для решения глобальных проблем, таких как управление водными ресурсами, сокращение выбросов углерода или оптимизация систем здравоохранения, но также предупреждает, что его развитие может выйти из-под контроля человека, если не будут созданы соответствующие механизмы. Согласно отчету, критическим моментом является не то, достигнет ли искусственный интеллект уровня интеллекта человека, а то, смогут ли правительства и учреждения договориться о том, как его регулировать, прежде чем это произойдет. По мнению Гандары, ключ не в том, чтобы остановить инновации, а в том, чтобы наделить их этической целью. «Мы можем использовать ИИ для повышения осведомленности людей о водном следе их потребления или для мониторинга выбросов CO₂ в режиме реального времени. Но если не будет глобального управления, мы рискуем, что тот же инструмент, который может нас спасти, приведет нас к катастрофическому сценарию». Менее 10 лет для действий В книге описываются три типа искусственного интеллекта: узкий, общий и сверхискусственный интеллект. Узкий ИИ или УИИ — это тот, который мы знаем сегодня, который все используют в школе, на работе или в свободное время. Именно этому ИИ мы задаем вопросы, просим его создавать резюме, сравнивать данные, генерировать возможные сценарии, создавать или редактировать изображения и т. д. Хотя он творит чудеса, он все еще ограничен. «Следующим идет общий ИИ или ОИИ. Его цель и особенность в том, что он может учиться. Он сможет редактировать свой код, действовать автономно, чтобы решать проблемы с помощью стратегий, аналогичных или превосходящих человеческие», — объясняет Гандара. IAG даст начало супер-ИИ. Именно он станет независимым от людей. Он будет развивать свои собственные цели, задачи и стратегии без понимания, сознания и контроля со стороны человека. Он сможет постоянно повышать свой интеллект и достигать результатов, недоступных для всего человечества. «Мне сказали поговорить о будущем... вот что я вижу», — заключает Гандара. Именно поэтому так важно, чтобы страны договорились о приоритетности создания международной системы регулирования. Эта система должна установить правила, параметры, аудиты, барьеры и т. п. для ИИ до появления ИИГ, поскольку из него может возникнуть интеллект, который нам не понравится. Будущее не предсказывается, оно создается. «Государство будущего 20.0» настаивает на том, что изучение будущего не должно быть созерцательным занятием, а должно служить инструментом преобразования. Изучение будущего — это не просто взгляд вперед, как в игре в гадание. Оно должно служить для преобразования настоящего. Отчеты, которые мы готовим, служат обществу, потому что знание будущего — это первый шаг к тому, чтобы не стать жертвами тех, кто его проектирует без нас», — настаивает Гандара. Он подчеркивает совместную ответственность и утверждает, что у всех нас есть своя роль: студенты должны обучаться мышлению о будущем; преподаватели — разрабатывать учебные программы, способствующие развитию творчества и рефлексии; правительства — думать о долгосрочных планах; предприниматели — задаваться вопросом, как обеспечить прибыльность, решая большие проблемы тысячелетия. Никто не может остаться в стороне. Молодежь: главные действующие лица будущего Осознавая важность молодежи в построении возможных будущих, Агреда утверждает, что они не могут быть зрителями, а должны быть активными участниками перемен, и для этого образование имеет огромное значение. «Мы в Unifranz твердо верим, что молодежь должна развивать мышление о будущем. Поэтому мы продвигаем такие мероприятия, как Future Week, которая становится платформой для совместного творчества, размышлений и диалога. Там студенты представляют прототипы, государственные политики и проекты, имеющие реальное влияние. Мы знаем, что они будут нашими будущими правителями, предпринимателями и новаторами», — утверждает он. Для Агреда книга Millennium Project соответствует видению его университета: образование, которое не только готовит профессионалов, но и дизайнеров будущего. «Университеты не могут продолжать готовить молодежь к миру, которого уже не существует. Мы должны научить их строить мир, который грядет». Управление и коллективное сознание Книга не оставляет места для пессимизма, но содержит предупреждение: без международного сотрудничества, без этического управления искусственным интеллектом и без активного участия молодежи технологические достижения могут привести к новым формам неравенства и контроля. Будущее, как кажется, говорит нам этот доклад, принадлежит не тем, кто его предсказывает, а тем, кто осмеливается ответственно его представить. В Ла-Пасе, среди эха Future Week и презентации «Состояние будущего 20.0», разговор об ИИ, этике и молодежи приобретает новый смысл: смысл человечества, которое, несмотря на кризисы, все еще сохраняет право выбирать свою судьбу. «Молодые люди сегодняшнего дня, продолжайте проактивно действовать и размышлять о будущем. Воспримите это упражнение как навигационную карту и как возможность создать новые возможности как с точки зрения бизнеса, так и с точки зрения внимания к социальным проблемам. Молодым людям я говорю: ждите нас, мы увидимся очень скоро», — заключает Гандара.