Алекс Коэн: «Мы находимся на том этапе, когда не знаем, станем ли мы более человечными или более киборгизированными».

Мое первое знакомство с понятием «искусственный интеллект» произошло в «Фантастическом автомобиле», одном из самых популярных сериалов 1980-х годов. В нем Дэвид Хассельхофф боролся с преступностью с помощью своего автономного автомобиля, с которым он также общался - за десятилетия до появления Waymo, автономного автомобиля, разработанного Google, и изобретения ChatGPT. Через два месяца после запуска OpenAI в ноябре 2022 года я спросил звезду Baywatch о том, как фантастика может вдохновить реальность. Хассельхофф, которого позвали выступить на цифровой сессии в Давосе, посвященной уже ощутимому влиянию ИИ, сказал, что ему кажется сюрреалистичным участвовать в этом разговоре после четырех десятилетий демонстрации миру через фантастику того, как могут выглядеть отношения «разумный человек-машина». «Многие герои истории Кремниевой долины, создатели Microsoft Office, первого смартфона, метавселенной, планшета, повторяют одну и ту же схему: сначала они были поэтами, писателями, художниками и фотографами. Художники, запертые в телах изобретателей разрушительных технологий, обладающие способностью материализовывать самые причудливые фантазии. Один из них - Алекс Коэн. Изобретатель одной из первых поисковых систем в Интернете - задолго до появления Google - Алекс - музыкант, фотограф, философ и киноман. И в процессе он также преодолевает один из немногих оставшихся барьеров на пути разграничения когнитивных возможностей людей и машин. «Во время этого интервью я задался целью препарировать их мозг. Искать подсказку, как эти умы, создатели кирпичиков, сделавших возможным создание ИИ, показывают нам различия между нашим видом и компьютером, в надежде, что если мы можем обучить ИИ, то почему бы не обучить и наш мозг, чтобы еще больше подчеркнуть выгодные для нас различия«. „В романе Жозе Сарамаго “Эссе о слепоте» самый обычный персонаж приобретает необычный характер, сохраняя атрибут, который остальные теряют: зрение. В эпоху ИИ у нас есть два варианта: «С этими мыслями и желанием лучше видеть наш мозг я сел с Алексом, чтобы поразмышлять о происхождении, настоящем и будущем ИИ. «- Алекс, мы встретились на «сессии изобретений», организованной Эдвардом Юнгом, который после десятилетия работы главным архитектором Microsoft стал одним из основателей Intellectual Ventures, где мы сидели в одной комнате с такими выдающимися личностями, как Билл Гейтс, и нобелевскими лауреатами, как Роберт Лангер, соучредитель Moderna, и обдумывали новые патентоспособные идеи. Это было более двух десятилетий назад, во времена острой конкуренции между Microsoft и Apple, и моим первым наблюдением о вас было то, что вы поставили свой компьютер Mac в нескольких сантиметрах от Билла. Я подумал: у него есть мужество, у этого парня. Как вы всегда находили свой собственный путь, как вы нашли свой путь в мире технологий? Я изучал компьютеры и их применение в биологии, что в то время было сложно, потому что компьютеры были очень простыми и очень медленными. Я пошел в компьютерный отдел и попросил у них учетную запись электронной почты, а они сказали, что она зарезервирована для людей, которые работают в компьютерном классе. Тогда я сказал: «Ну, у меня есть кое-какие навыки, чем я могу вам помочь? И этот парень, который был гуру Unix, передал мне научную статью в качестве моего первого задания. Это было исследование AlohaNet, первой TCP IP-сети, которая соединяла острова на Гавайях. Она была медленной, работала по радиосигналам и тому подобным вещам. Я прочитал его и сразу понял, что это грандиозная идея. Поэтому я начал работать в компьютерном отделе и создал их первую сеть, которая подключалась к Интернету. В то время Интернет был известен как ARPANet, и его создало Министерство обороны США. Вы сыграли важную роль в создании одной из первых сетей... - Да. Потом я стал преподавать в Калифорнийском университете в Беркли, но у меня появилась возможность создать стартап, связанный с тем, что в то время было известно как «желтые страницы» интернета. Человек, на которого я работал, буквально выложил книгу в Интернет, и я сказал ему, что мы должны выложить ее в Сеть, что в то время было совсем новым делом. Это было в конце 94-го года. Я разработал поисковую систему, которая запрашивала эту информацию, размещала ее в Интернете, а затем создала паука, который собирал данные в Интернете и индексировал их. Это была одна из основ поисковых систем. Это была одна из первых пяти поисковых систем, появившихся в конце 94-го - начале 95-го. «Вы только что сказали мне, как будто это пустяк, что вы изобрели одну из первых поисковых систем в Интернете задолго до появления Google.» - Верно. Есть много параллелей между теми временами технологического распада интернета и тем, что мы переживаем сегодня с искусственным интеллектом."- Именно! Мы поговорим об этом сравнении чуть позже, но я не хочу не отметить, что вы были пионером в двух технологических революциях с самыми большими последствиями для человеческого рода. Но сначала о главном: что случилось с вашим веб-браузером?» - Мы продали его компании Excite@Home, у которой был некачественный продукт, но им понравился наш рекламный движок. И после этого я взял трехмесячный перерыв. Я хотел взять шесть, но они предложили мне должность в Netscape. После Netscape я работал венчурным инвестором в Kleiner Perkins вместе с Винодом Хослой (основателем Sun Microsystems). Он познакомил меня с Эдвардом Юнгом, и вместе с Натаном Мирволдом, который много лет был техническим директором Microsoft, они пригласили меня присоединиться к их компании Intellectual Ventures, но я отказался. Позже, в 2000 году, я занимался проектом в Голливуде, который был очень похож на то, что в итоге стало YouTube. Когда из этого ничего не вышло, я снова поговорил с Эдвардом, который уже работал с патентами, и меня это заинтересовало. Я пошел посмотреть, чем они занимаются, и в итоге оказался единственным не жителем Сиэтла, работающим с ними. Помимо того, что вы компьютерщик, вы также работали в Голливуде. У вас уникальная комбинация: вы импровизационный джазовый пианист, оперный певец, профессор кино и заядлый велосипедист. Нам нужно препарировать ваш мозг, но сначала давайте попросим вас объяснить феномен искусственного интеллекта. И Интернет, и искусственный интеллект - это информационные революции. Я расскажу вам о своем последнем студенческом проекте в Университете Брауна: у меня был выбор между созданием программы, похожей на шахматы, и чем-то более безумным для того времени - чат-системой. По сути, это была предтеча чатбота, и я был очарован ею. Я сделал ее на IBM 370, что было очень сложно. В то время мы пытались сделать более сложную чат-систему, но это было невозможно из-за доступных на тот момент вычислительных мощностей. Когда появился ChatGPT, который стал результатом многих достижений в области машинного обучения и концепции «трансформатора», все изменилось. Теперь это не просто поиск данных и их отображение. Эти модели обрабатывают информацию и понимают семантические отношения между словами и понятиями."- Да, трансформатор - это тип архитектуры нейронной сети, предназначенной для обработки последовательностей данных - таких как текст - путем изучения отношений между словами (лексемами) в контексте. Именно это позволяет языковым моделям предсказывать следующее слово на основе предыдущего контекста.«- Именно это позволило родиться генеративному искусственному интеллекту, другими словами, машина теперь может говорить как человек.»- Именно. Она достигла такого уровня сложности, какого мы еще не видели в системах типа чатботов. И во многом она сочетает в себе элементы поиска, потому что вы все еще получаете информацию от них, но способ ее построения совсем другой, потому что вы не ищете и не определяете пересечения слов в Интернете, а затем извлекаете веб-страницу. В отличие от этого, генеративный искусственный интеллект поглощает все эти знания и анализирует их таким образом, чтобы найти семантические отношения между словами и, на более высоком уровне, то, что мы можем назвать концептами, то есть связи между самими словами. Таким образом, LLM (большие языковые модели) позволяют машине выдавать результат анализа информации в формате, понятном человеку. Это итеративный процесс, в котором машина смотрит на контекст уже созданных слов и находит следующее слово на основе вероятностной модели». То есть если первые два слова - „Меня зовут...“, есть шанс, что последующие - это имя и фамилия. Это как в той импровизационной игре, где ваш партнер по сцене должен построить историю на основе вашего первого предложения."- Хороший пример. Но проблема в том, что существует множество вариантов, которые одинаково вероятны, и иногда вы генерируете достоверные, но ложные результаты, которые мы называем «галлюцинациями» искусственного интеллекта."- Это как раз ахиллесова пята современного ИИ: у него не всегда есть воспроизводимые ответы, и трудно оценить вероятность того, что утверждение истинно, потому что он не показывает нам, как он пришел к результату. Это черный ящик: вы вводите запрос и получаете продукт. Именно эту проблему вы решаете с помощью своего нового предприятия, верно?» - Да, 4by9 - это моя компания, которую я еще не запустил, поэтому я расскажу вам о ней. Мы создали новое приложение для искусственного интеллекта, которое позволяет нам смягчить возникновение этих «галлюцинаций» путем создания синтетических экспертных рассуждений, когда дерево решений, которым руководствуется искусственный интеллект, становится прозрачным, и мы можем видеть, как он пришел к тому или иному результату."- Как говорил мой учитель математики, чтобы получить высший балл, нужно показать, как ты пришел к ответу. Опять же, вы находитесь на границе инноваций самой технологии, вы расширяете возможности применения ИИ. На ум приходит метафора: современный ИИ - это как врач по вызову: он записывает ваши симптомы, исключает наиболее вероятные серьезные заболевания и отправляет вас домой. Но ваша система сможет выявлять редкие и хронические заболевания, потому что она способна анализировать дерево более или менее вероятных сценариев, и вы сможете выбирать, по какой из ветвей следовать, а не довольствоваться «черным ящиком». Этот прорыв - большая новость, он имеет множество огромных последствий для тех отраслей, где согласованность и проверяемость информации, генерируемой ИИ, имеет первостепенное значение. Например, в финансовом секторе или в мире патентов. Большое спасибо за сенсацию, которую вы дали нам перед Силиконовой долиной! А теперь вернемся к препарированию вашего мозга. Мы как раз говорили о том, что у многих гениев, с которыми мы встречались, есть один большой экзистенциальный вопрос, который преследует их всю жизнь. Один из них возник после прослушивания выступления Алонзо Черча, который был коллегой Тьюринга: является ли формула для числа Пи сжатием этого бесконечного иррационального числа? Я был одержим идеей непостижимости и связи между формулой и результатом. Как только я приземлился, меня привлекло то, что я задал себе вопрос, что означает «смысл»? Что значит понять что-то? Что такое откровение или новая перспектива по сравнению с кратким изложением информации?«- Похоже, ваш экзистенциальный вопрос противопоставляет нынешний ИИ (краткое изложение информации) и то, что предлагает ваша новая модель (»инсайты», что переводится как „откровение“). Ваши компании - это отражение ваших экзистенциальных вопросов. «- Вы вытащили мой чип...»- Я все еще пытаюсь расшифровать, как работает ваш разум. Еще одна вещь, которая меня интересует, - это то, как ваш мозг переносит навыки между различными областями. Например, вы играете импровизированный джаз перед публичной презентацией, и это делает вас лучшим оратором, - поделились вы со мной. Почему так происходит? «Потому что я узнал, как работает мой мозг. Но музыка объединяет меня. Потому что музыка - это гармоничная организация времени. Однажды у меня измерили активность мозга, когда я говорил, и мое правое полушарие активизировалось еще до того, как я произнес слово. Я мыслил геометрическими категориями. Так я превращаю визуальные структуры в алгоритмы. Музыка, благодаря своей геометрии, подсказывает моему мозгу, что нужно организовать для вербальной презентации». Это одно из самых интересных преимуществ ИИ: теперь есть устройства, измеряющие сигналы мозга, которые позволяют нам узнать больше о том, как каждый из нас может определить способы предварительной активации различных видов нужных связей. Например, когда я просыпаюсь в середине цикла REM-сна, у меня самая творческая концентрация для написания текстов. Вот почему я просыпаюсь в 4 или 5 утра, чтобы написать эти колонки. И наконец, молниеносный раунд. Как вы определяете человеческую креативность в отличие от того, что делают искусственные интеллекты? Для меня креативность - это способность объединять совершенно разные информационные пространства и находить неожиданные взаимосвязи. Это может быть связь между изображениями, звуками, идеями, теориями. Это умение видеть закономерности там, где другие их не видят.«- Что бы вы хотели, чтобы ИИ решил до вашей смерти?»- Раньше я хотел загрузить свой разум в машину. Человек, превратившийся в машину, борется со своей идентичностью. Мы находимся в том моменте, когда не знаем, будем ли мы более человечными или более киборгами.«- Какое ваше самое человечное качество?»- Думаю, моя любовь к инструментам."- Это звучит почти как поэтический оксюморон. А что, по мнению ваших детей, делает вас незаменимым? «- То, что я так же способна к гуманитарным наукам, как и к технологиям. И что если я чего-то не знаю, то не остановлюсь, пока не пойму. «Как я всегда говорю, любопытство - это самое человеческое и наименее воспроизводимое качество. Что дает вам сегодня больше всего надежды?«- Что человечество не является конечной точкой биологической эволюции. „***В поэме Борхеса “Голем» мы читаем: «В големе было что-то ненормальное и неприличное, потому что в его следах прятался кот раввина». Любопытство убило кота, гласит известная поговорка, но, по мнению Борхеса, в «похожих» созданиях вроде Голема (или ИИ!) есть кот в мешке. «Как сказал мой 7-летний сын Лукас, философ-любитель: „Если вы просите меня не трогать незнакомые растения [мама беспокоилась о токсичности], вы технически просите меня не быть любопытным, и я не позволю вам этого сделать“. «Посреди угроз, которые порождают наши нечеловеческие творения, отрадно видеть, что наши человеческие творения отказываются от любопытства. Возможно, это же любопытство обеспечит человечеству не полную остановку, а скорее полную остановку». „Сделано человеком в 3 часа ночи“ »Переведено IA»