На крупнейшем собрании AI его внутреннее устройство остается загадкой

САН-ДИЕГО — На прошлой неделе ученые, основатели стартапов и исследователи, представляющие промышленных гигантов со всего мира, съехались в солнечный Сан-Диего на крупнейшее мероприятие в области искусственного интеллекта. Конференция Neural Information Processing Systems (NeurIPS) проводится уже 39 лет, но в этом году она собрала рекордное количество участников — 26 000 человек, что в два раза больше, чем шесть лет назад. С момента своего основания в 1987 году NeurIPS посвящена исследованию нейронных сетей и взаимодействию между вычислениями, нейробиологией и физикой. Хотя нейронные сети, вычислительные структуры, вдохновленные когнитивными системами человека и животных, когда-то были эзотерической академической фиксацией, их роль в основе систем искусственного интеллекта превратила NeurIPS из нишевой встречи в отеле Колорадо в мероприятие, заполняющее весь конференц-центр Сан-Диего, который также является домом для всемирно известного Comic-Con. Но даже несмотря на бурный рост конференции вместе с индустрией искусственного интеллекта и распространение сессий по гиперспецифическим темам, таким как музыка, созданная искусственным интеллектом, одной из самых обсуждаемых тем была базовая и фундаментальная для области искусственного интеллекта: загадка того, как на самом деле работают передовые системы. Большинство — если не все — ведущие исследователи и руководители компаний в области ИИ охотно признают, что не понимают, как функционируют современные передовые системы ИИ. Стремление понять внутреннюю структуру моделей называется интерпретируемостью, учитывая желание «интерпретировать» то, как функционируют модели. Шрияш Упадхьяй, исследователь в области искусственного интеллекта и соучредитель компании Martian, специализирующейся на интерпретируемости, сказал, что область интерпретируемости все еще находится в зачаточном состоянии: «Люди не до конца понимают, в чем заключается эта область. Существует множество противоречивых идей, и у людей разные планы». «Например, в традиционной инкрементальной науке, где идеи в основном уже сформированы, ученые могут попытаться добавить дополнительную десятичную точку точности измерения к определенным свойствам электрона», — сказал Упадхьяй. «С интерпретируемостью мы находимся на этапе, когда задаемся вопросами: «Что такое электроны? Существуют ли электроны? Можно ли их измерить?» То же самое и с интерпретируемостью: мы задаемся вопросом: «Что значит иметь интерпретируемую систему ИИ?» Упадхьяй и Мартиан воспользовались конференцией NeurIPS, чтобы объявить о присуждении премии в размере 1 миллиона долл. за содействие развитию интерпретируемости. В ходе конференции команды ведущих компаний в области ИИ, занимающиеся интерпретируемостью, продемонстрировали новые и разнообразные подходы к пониманию работы своих все более совершенных систем. В начале прошлой недели команда Google объявила о значительном изменении курса: от попыток понять каждую деталь модели к более практичным методам, ориентированным на реальное воздействие. Нил Нанда, один из лидеров Google в области интерпретируемости, написал в своем заявлении, что «такие грандиозные цели, как почти полная обратная инженерия, по-прежнему кажутся недостижимыми», учитывая, что «мы хотим, чтобы наша работа окупилась в течение примерно 10 лет». Нанда подчеркнул быстрый прогресс ИИ и невыразительные достижения предыдущего, более «амбициозного подхода к обратной инженерии» команды как причины для перехода. С другой стороны, глава отдела интерпретируемости OpenAI Лео Гао объявил в пятницу и обсудил на NeurIPS, что он удваивает усилия по созданию более глубокой и амбициозной формы интерпретируемости, «чтобы полностью понять, как работают нейронные сети». Адам Глив, исследователь в области ИИ и соучредитель некоммерческой организации FAR.AI, занимающейся исследованиями и образованием, сказал, что он скептически относится к возможности полностью понять поведение моделей: «Я подозреваю, что модели глубокого обучения не имеют простого объяснения, поэтому просто невозможно полностью реконструировать крупномасштабную нейронную сеть таким образом, чтобы она была понятна человеку». Несмотря на препятствия для полного понимания сложных систем, Глив сказал, что он надеется, что исследователи все же добьются значительного прогресса в понимании поведения моделей на многих уровнях, что поможет исследователям и компаниям создавать более надежные и достоверные системы. «Я воодушевлен растущим интересом к вопросам безопасности и согласованности в сообществе исследователей машинного обучения», — сказал Глив в интервью NBC News, хотя он отметил, что конференции NeurIPS, посвященные расширению возможностей ИИ, были настолько масштабными, что «проходили в помещениях, которые можно было бы использовать как ангары для самолетов». Помимо неопределенности в поведении моделей, большинство исследователей не впечатлены существующими методами оценки и измерения текущих возможностей систем ИИ. «У нас нет инструментов для измерения более сложных концепций и более важных вопросов, касающихся общего поведения моделей, таких как интеллект и мышление», — сказал Санми Коеджо, профессор информатики и руководитель Trustworthy AI Research Lab в Стэнфордском университете. «Многие оценки и тесты были разработаны для другого времени, когда исследователи измеряли конкретные задачи на нижних уровнях», — сказал Коеджо, подчеркнув необходимость дополнительных ресурсов и внимания для создания новых, надежных и значимых тестов для систем ИИ. Те же вопросы о том, какие аспекты систем ИИ следует измерять и как их измерять, применимы к моделям ИИ, используемым в конкретных научных областях. Зив Бар-Джозеф, профессор Университета Карнеги-Меллона, основатель GenBio AI и эксперт в области передовых моделей ИИ для биологии, сказал, что оценки систем ИИ, специфичных для биологии, также находятся в зачаточном состоянии. «Это чрезвычайно, чрезвычайно ранние стадии для биологических оценок. Чрезвычайно ранние стадии», — сказал Бар-Джозеф NBC News. «Я думаю, что мы все еще выясняем, как следует оценивать вещи, не говоря уже о том, что мы должны изучать для оценки». Несмотря на постепенный и нестабильный прогресс в понимании того, как работают передовые системы ИИ и как фактически измерить их прогресс, исследователи тем не менее видят быстрые успехи в способности систем ИИ улучшать научные исследования как таковые. «Люди строили мосты еще до того, как Исаак Ньютон открыл законы физики», — сказал Упадхьяй из Martian, указав, что полное понимание систем ИИ не является необходимым условием для значительных изменений в реальном мире. Четвертый год подряд исследователи организовали отдельное мероприятие в рамках основной конференции NeurIPS, посвященное новейшим методам ИИ, способствующим научным открытиям. Одна из организаторов мероприятия, Ада Фанг, докторант Гарвардского университета, изучающая взаимосвязь ИИ и химии, сказала, что NeurIPS в этом году прошла «с большим успехом». «Передовые исследования в области ИИ для науки проводятся отдельно в таких областях, как биология, материаловедение, химия и физика, но основные проблемы и идеи глубоко взаимосвязаны», — сказала Фанг NBC News. «Наша цель состояла в том, чтобы создать пространство, где исследователи могли бы обсуждать не только прорывы, но и возможности и ограничения ИИ для науки». Джефф Клун, пионер в области использования ИИ для науки и профессор информатики в Университете Британской Колумбии в Ванкувере, сказал в ходе панельной дискуссии, что эта область быстро развивается. «Количество писем, контактов и людей, которые останавливают меня на NeurIPS и хотят поговорить о создании ИИ, способного учиться, открывать и внедрять инновации в науке, просто зашкаливает, — сказал Клун. — Я абсолютно потрясен этими изменениями». Я смотрю на толпу здесь и вижу людей, которые были здесь 10 или 20 лет назад, в пустыне со мной, когда никто не интересовался этой проблемой. А теперь, похоже, мир заинтересовался», — добавил он. «Просто радует сердце видеть, что ИИ работает достаточно хорошо, и теперь есть достаточный интерес, чтобы захотеть решить некоторые из самых важных и насущных проблем для благополучия человечества».