AGI и землетрясение в открытом ИИ, автор Раги Бурхум
В пятницу Сэм Альтман был необычно, внезапно и публично уволен из компании OpenAI (создателя ChatGPT). Совет директоров некоммерческой организации отстранил Сэма от должности генерального директора, а Грега Брокмана, соучредителя OpenAI, - от должности президента. Грегу было сказано, что он останется в компании в качестве сотрудника, но он подал в отставку. Все это было опубликовано на сайте OpenAI с напоминанием о миссии OpenAI: "Обеспечить, чтобы AGI приносил пользу всему человечеству". Что такое AGI? Искусственный интеллект общего назначения (AGI) - это тип ИИ, который все еще находится на стадии разработки и предназначен для понимания, обучения и рассуждений во всех отраслях науки. Существующие модели ИИ специализированы для решения конкретных задач, но не обладают сознанием или способностью размышлять о собственном процессе мышления. AGI будет обладать этими элементами. Специалисты по ИИ не спорят о том, будет ли достигнута эта точка - в этом нет никаких сомнений. Дискуссия идет о том, когда это произойдет (через 5 или 20 лет?) и что нужно сделать, чтобы согласование не поставило человечество под угрозу. Аугусто Альварес Родрич (Augusto Álvarez Rodrich) "Согласование" относится к проблеме обеспечения того, чтобы системы ИИ действовали в соответствии с интересами и ценностями человека. Проще говоря, когда мы создаем искусственный интеллект, мы должны быть уверены, что он видит в людях союзников. Поэтому одной из тем разговора во время АТЭС между президентами двух стран стало регулирование ИИ. Неудивительно, что Сэму и Грегу удалось увеличить выручку OpenAI с 28 млн. песо в год в 2022 году до более чем 1,3 млн. песо в 2023 году. Ранее Сэм был президентом самого престижного в мире акселератора стартапов (YCombinator), а Грег - техническим директором компании Stripe. Оба знают, как быстро реализовать себя как стартап: совершать ошибки на пути, учиться на них и продолжать расти. Но это пугает многих людей, потому что на кону стоит будущее AGI и, как следствие, человечества,