Сантьяго Билинкис: «Технологии развиваются с такой скоростью, за которой человеческие институты не успевают угнаться»

Впервые он заговорил об искусственном интеллекте пятнадцать лет назад в своей радиопередаче. Сегодня он — самый ожидаемый докладчик на технологическом мероприятии с аншлагом, где собираются предприниматели, просто любознательные люди и даже некоторые политики. Он целый час рассказывает об искусственном интеллекте: о том, почему это самое важное изменение в истории; о том, как оно может повлиять на производительность; о преимуществах моделей и ошибках, которые они допускают; о гениальности агентов; о том, почему ИИ — не оракул и порой ведет себя как подхалим; об ошибочных подходах СМИ при публикации статей вроде «Пять лучших районов для жизни по версии ИИ»; и о том, почему вы упускаете что-то потрясающее, если еще не внедрили ИИ в свою жизнь. Сантьяго Билинкис изучал экономику, но стал одним из пионеров технологического предпринимательства в Аргентине. Он занимается популяризацией науки, ведёт канал на YouTube с 570 000 подписчиков и пишет книги и руководства по выживанию в современном мире. В этот четверг он выступил в качестве главного докладчика на конференции Mercado Libre Experience. Это стенограмма беседы, которая состоялась с ним после мероприятия. —Ваш доклад на прошлой неделе в Уругвае был посвящён тому, как интегрировать искусственный интеллект в нашу жизнь, теперь, когда он уже стал частью настоящего. В итоге всё оказалось так катастрофично, как предсказывали некоторые? —Я люблю говорить, что искусственный интеллект допускает только превосходные степени. Он фантастический и катастрофический. Он потрясающий и ужасающий. Если кто-то скажет что-то вроде: «Ну, знаешь...», не верь ему, потому что любой чрезвычайно мощный инструмент при правильном использовании дает потрясающие результаты, а при неправильном — приводит к катастрофе. То есть это почти одно и то же: он и чрезвычайно полезен, и чертовски опасен. На самом деле, несколько недель назад в Instagram широко распространилось одно моё видео, в котором я говорил о том, что в ближайшие шесть–двенадцать месяцев в мире может произойти крупный инцидент, связанный с безопасностью. Это говорил не я, а Дарио Амодей — пожалуй, один из самых блестящих умов и основатель компании Anthropic, создавшей модель Claude. —Почему, по-вашему, столько людей выражают опасения по поводу ИИ? —Я думаю, что те, кто ежедневно сталкивается с самыми передовыми моделями, видят вещи, которые вызывают недоумение и которые, если выйдут из-под контроля, могут привести к серьезным проблемам. Есть те, кто говорит о вымирании человечества. Это предположение в какой-то мере немного нелепо, не так ли? Очень, очень маловероятно, что это приведет к вымиранию человечества, но что нас ждет какой-то серьезный кризис — я бы сказал, что это вполне вероятно. —Искусственный интеллект меняет то, как мы делаем всё. Есть ли какая-то область, в которой вас поразило влияние ИИ, что-то, чего вы не могли себе представить, что изменится настолько сильно? —Я думаю, что есть две особенности ИИ, которые я не мог себе представить такими. Одна из них — насколько он эмпатичен, насколько тонко он понимает человеческие намерения, мотивы и желания. А во-вторых — насколько она творческая. Что касается музыки, она сочиняет великолепные песни. Многие творческие люди злятся, когда я так говорю, но это правда. Она сочиняет отличные песни, пишет хорошие рассказы и создает потрясающие изображения. Приведу вам один факт: на этой неделе обанкротилась Getty Images, которая была одной из ведущих мировых компаний по продаже стоковых изображений. Четыре года назад она вышла на биржу на пике своего расцвета, и за четыре года искусственный интеллект просто сожрал её заживо. Думаю, это доказывает, что продукция ИИ быстрая, дешёвая и качественная. —Ранее мы говорили о поляризации: ИИ вызывает и любовь, и ненависть. На каком этапе находится общественная дискуссия об искусственном интеллекте и как вы наблюдали за этими изменениями на протяжении лет? —Большинство людей всё ещё не в курсе. Люди приняли ChatGPT как замену Google: то, что раньше искали в Google, теперь спрашивают у чата. И это использование никому ничего не меняет. Мне кажется, что большинство людей, наверное, не понимают, почему вокруг этого столько шума, потому что они не используют те инструменты, которые действительно заставляют ломать голову. Поэтому я считаю, что дискуссия сильно зашла в тупик. Никаких серьезных дискуссий об ИИ не ведется, за исключением тех случаев, когда появляются письма, подобные письму Амодеи, и все начинают спрашивать: «Эй, а правда ли, что это может вызвать проблемы?». —В последнее время было несколько предупреждений от генеральных директоров этих компаний о развитии ИИ, а также случаи, связанные с безопасностью. До какой степени нам нужно быть начеку, а где это уже немного перебор? —Да, есть люди, которые утверждают, что это всё маркетинговый ход. Я так не думаю. Полагаю, что маркетинговая составляющая, возможно, и есть, но за этим явно стоит и реальная причина. Думаю, нужно быть начеку. Сейчас очень деликатный момент, и в такой ситуации точно нельзя терять бдительность. Большинство людей не уделяют особого внимания тому, что происходит. Политики не имеют ни малейшего представления о том, что происходит. Те, кто в некотором смысле должен оценивать, нужна ли какая-то регуляция, недостаточно разбираются в теме. Возможно, больше всего беспокоит не столько вопрос, опасна ли ИИ или нет, сколько то, насколько сложно человеческим институтам идти в ногу с тем темпом изменений, который мы сейчас наблюдаем. —А что же делать рядовому гражданину перед лицом этих предупреждений? —Рядовой гражданин не может предотвратить апокалипсис, но он может уже с завтрашнего дня работать в три раза быстрее, с более высоким качеством и делать то, что на прошлой неделе казалось ему невозможным, а на следующей неделе он уже будет этим заниматься. То есть на самом деле тот скачок, который вы делаете, когда начинаете использовать агентский ИИ, настолько велик, что, по-моему, большинство людей даже не представляют, чего они лишаются. —Вы упомянули политиков. Какую роль играют правительства и геополитика в продвижении искусственного интеллекта в данный момент? —Это ключевой момент, абсолютно ключевой, потому что главная аналогия — это гонка вооружений, приведшая к взрывам двух атомных бомб в Хиросиме и Нагасаки. Геополитический блок, который первым достигнет уровня сверхинтеллекта, станет победителем. Игра закончится. И оба блока мчатся на полной скорости. Отчасти именно поэтому компании, занимающиеся ИИ в США и Китае, не останавливаются: обе страны соревнуются, чтобы посмотреть, кто доберётся до цели первым. —Технологии как никогда раньше проникли в политическую дискуссию... —Да, не знаю... Не могу сказать, как обстоят дела в Уругвае; в Аргентине об этом не особо говорят. —Нет, я имел в виду, например, США. —В США Трамп был вынужден публично заявить, что он против регулирования. Также состоялась встреча с Си Цзиньпином, на которой обсуждалось, можно ли наладить какую-то координацию. Пока что мы находимся в тупике. Мой пессимизм, опять же, связан именно с этим: технология развивается со скоростью, за которой человеческие институты не в состоянии угнаться. —В Уругвае дискуссия о регулировании сводится к тому, наступил ли уже момент или лучше подождать. Как вы это оцениваете? —Проблема в том, что периферийные страны, такие как Аргентина, Уругвай и вся Латинская Америка, не имеют чего регулировать. ИИ здесь не разрабатывается. Мы используем модели, разработанные в других странах, поэтому нет объекта для регулирования. Можно регулировать такие вещи, как, например, разрешать ли его использование в школах или нет, или как адаптировать образовательные процессы. Это, безусловно, важно, чтобы правительства обратили на это внимание. А вот более фундаментальные вопросы, например, должны ли модели развиваться быстрее или медленнее, к сожалению, остаются за пределами нашего обсуждения. —Также много говорят о том, может ли Латинская Америка — и, в особенности, в последнее время, регион Рио-де-ла-Плата — превратиться в технологический хаб. Многие из этих руководителей компаний обращают свой взор на регион Рио-де-ла-Плата. Как вы это оцениваете? —В условиях серьезного геополитического хаоса нахождение в южном полушарии — это всегда хорошо. И Аргентина, и Уругвай — страны, относительно самостоятельные в плане производства продовольствия, водоснабжения и, в той или иной степени, энергетики. Аргентина, благодаря месторождению Вака-Муэрта, после долгого периода дефицита энергии начинает иметь её профицит. Таким образом, если у вас более или менее обеспечена энергия, более или менее обеспечено производство продовольствия для всего населения и есть доступ к воде, вы находитесь в довольно привилегированном положении. —В Уругвае в последнее время было объявлено о нескольких проектах с иностранными инвестициями, например, по строительству дата-центров... —Конечно, но привлечение дата-центра сюда — это то же самое, что привлечение завода, не так ли? В конечном итоге... Это как с соей: нет ничего плохого в том, чтобы выращивать её и получать миллиарды долларов от экспорта, но тот, кто превращает сою в корма, масло и все производные продукты, зарабатывает гораздо больше денег, чем тот, кто выращивает зерно и экспортирует его в необработанном виде. Центр обработки данных — это самый грубый, самый базовый этап процесса искусственного интеллекта. Впрочем, я не жалуюсь: лучше иметь это, чем не иметь ничего, верно? —Есть ли у нас что-то особенное, что мы можем предложить другим странам? —В случае с Аргентиной, в большей степени, чем с Уругваем, это холодный климат. Большая часть проблем с центрами обработки данных связана с охлаждением. Оно очень дорогое и потребляет много воды. Если вы находитесь в месте, где естественно очень холодно, достаточно открыть окно, и помещение охладится. —Если заглянуть в будущее, что самое радикальное, по вашему мнению, мы можем увидеть в сфере искусственного интеллекта? —Первое, что приходит мне в голову, — это то, что, я думаю, в относительно ближайшем будущем мы начнём наблюдать, как люди будут устанавливать очень сильные привязанности к машинам. Очень интенсивные, очень крепкие отношения, которые ещё несколько лет назад могли показаться совершенно невообразимыми. Фильм «Она» (Her) 2013 года показывал ситуацию, когда человек влюблялся в ИИ, и это казалось абсурдной научной фантастикой. Я думаю, что это уже не за горами. —Будут ли они обладать сознанием или нет? —Я снял видео специально о том, будут ли машины обладать сознанием или нет. Я не буду отвечать на этот вопрос, чтобы вы и читатели могли посмотреть его сами.