Гении компьютерной и математической науки оценили, какой будет жизнь с искусственным интеллектом

ХЕЙДЕЛЬБЕРГ, Германия - По стратегическим соображениям, а может быть, и по случайности, город Гейдельберг не подвергался бомбардировкам союзников во время Второй мировой войны. Именно поэтому в этой части южной Германии до сих пор можно увидеть многовековые здания и церкви. Кроме того, Гейдельберг - один из лучших университетских городов Европы с достойными средневековыми традициями. Здесь, на правом берегу реки Неккар, прошел десятый Гейдельбергский форум лауреатов, на котором гении математики (лауреаты таких премий, как Тьюринг, Абель или медаль Филдса) в течение недели интенсивно общались с молодыми учеными со всего мира, обмениваясь знаниями и рекомендациями по карьерному росту. В этом году они приехали примерно из 60 стран, включая десяток аргентинцев, обучающихся в Аргентине (университеты Кордовы, Росарио и дель Сур в Баия-Бланке) и за рубежом. "Как и не могло быть иначе, одной из центральных тем дискуссий стал искусственный интеллект, генеративная версия которого, например, через GPT Chat, возродила опасения, что технология выходит из-под контроля человека, и в то же время многие правительства пытаются найти некое регулирование, пока без особого успеха. "Хотя большинство экспертов, работающих в вычислительной или смежных областях, в университетах или бизнесе, поддерживают идею о том, что это позитивные или неизбежные изменения - как если бы технология была силой природы, - были и такие, кто говорил о том, насколько проблематично оставлять такую вычислительную мощь в избранных руках. И как это может полностью изменить устройство общества и организацию рабочих мест. То, что кажется слишком важным, чтобы оставлять его в руках нескольких программистов-людей, преследующих коммерческие интересы, или даже самих машин. "Сильная позиция по поводу последствий все более широкого использования искусственного интеллекта (ИИ) представлена в идеях Алексея Эфроса, лауреата премии Association for Computing Machinery (ACM) 2016 года, который рассматривает ИИ только как технологическую преемственность, а не как прыжок в пустоту, подобно тому, как когда появились кино или телевидение и людям сказали, что они больше не будут читать, или еще раньше, когда считалось, что чтение книг будет заговором против живой жизни. "Я бы не стал особенно переживать по этому поводу. Это эволюция: книга, радио, телевидение, видеоигры, а теперь еще и искусственный интеллект", - сказал он на пресс-конференции. "Это достаточно медленное изменение, чтобы не бояться его. Хотя у ИИ есть риски, для меня они стоят далеко не на первом месте в списке опасений. Война и опасность для демократии, которой является Россия, например, занимают более высокое место, чем изменение климата или биотерроризм. Любая из этих проблем гораздо опаснее, чем ИИ", - добавил он. "Тем не менее Эфрос, выросший в Советском Союзе и работающий сейчас в США, даже не берется предсказать, что произойдет в ближайшие месяцы, если не годы, учитывая скорость, с которой все происходит. Ави Видгерсон, лауреат Абелевской премии 2021 года, признает, что грядут огромные перемены, что многие люди потеряют работу из-за развития экспоненциальных технологий, особенно в области медицины - с анализом изображений в первую очередь - и водителей автомобилей. Но он не считает это слишком проблематичным, хотя и отметил, что "правительствам нужно готовить людей к этому" и что необходимо сформировать этику самого ИИ, которая бы присутствовала в университетах и компаниях. Всегда можно найти хорошее применение инструментам, ножу, химикатам, чему угодно. Люди могут использовать технологии для различных целей, как хороших, так и плохих. Более осторожно высказался Джозеф Сифакис, лауреат премии Тьюринга 2007 года, который, не будучи противником технологий ИИ, призвал к созданию "новой базы, с которой можно было бы начать, которая была бы объяснима". "Мы должны укреплять доверие к системам. Технические решения возможны", - сказал он в одном из основных докладов, объясняя причины беспокойства властей и правительств и необходимость создания нормативной базы. "Объяснимость, - говорит Сифакис, - связана с тем, что часто системы ИИ представляют собой "черные ящики", то есть места, где вы вводите определенный объем данных и получаете ответ, но не имеете представления, что там произошло и почему был получен тот или иной ответ". Существует множество проблем, в частности, в отношении генеративных искусственных интеллектов, таких как GPT Chat. Будущее ИИ - это мониторинг и управление автономными системами, поэтому прогнозирование их поведения очень важно", - сказал он в заключение. "Сейчас время научной революции", - добавил к дискуссии Яэль Калай, лауреат премии ACM за 2022 год, также выступивший на пресс-конференции. Мы все беспокоимся об этике, об исчезновении рабочих мест, мы не представляем, каким будет мир через десять лет, и мне очень интересно, что произойдет". Он добавил, что в двух местах его работы (в Массачусетском технологическом институте в Бостоне и в компании Microsoft) существует понимание этических проблем, где "очень хорошо осознают опасность, спорность использования, необходимость обсуждения и принятия решений между учеными и законодателями". Может ли, например, GTP Chat быть творческим? Многие просто говорят "нет" и меняют тему разговора. Однако Себастьен Бубек, бывший профессор Принстона (США), а ныне научный сотрудник Microsoft, считает иначе. Он привел два примера: он был одним из первых, кто тестировал эту систему до того, как она стала общедоступной, и вместе с коллегами написал об этом большую статью (150 страниц). Бубек попросил Chat GPT4 написать стихотворение о бесконечности простых чисел, и "через десять секунд он вернулся с отличным стихотворением". "Второй пример: его дочь, фанатичная поклонница единорогов, постоянно просила у ИИ рассказы о единорогах. Пока однажды он не попросил его нарисовать одну, что было непросто, потому что это система, которая генерирует язык. И все же он вернул рисунок, которого раньше не было, - единорога, хоть и смутно похожего на единорога с характеристиками такого фантастического животного (футболку с этим рисунком Бубек носил на конференции). "Это немного дрянь, но это то, что создал чат, он смог соединить вещи, которые он знал, и собрать что-то вместе. Он синтезировал информацию, и в этом заключается суть интеллекта, то, чем мы занимаемся как математики", - сказал он. "Никто в мире не знает, к чему это приведет, никто", - заключил он. С другой стороны, для Эфроса мы "очень, очень, очень далеки" от искусственной поэзии. "В настоящее время наблюдается большой ажиотаж вокруг генеративного ИИ. Я считаю, что того, что мы имеем, недостаточно для того, чтобы было желание или возможность писать стихи. Сначала нужно пройти через голод, гнев, печаль, для этого нужен другой подход, чтобы из одной клетки породить другой вариант нашей собственной биологической эволюции, до которой еще далеко. Вычислительные мощности, необходимые для этого, огромны, - заметил он, - правда, похоже, что даже среди технофилов царит некая ликующая тревога. В конечном итоге, как сказал Винтон Серф (лауреат премии Тьюринга 2004 г. и один из создателей сетевого протокола), это может стать проблемой для бизнес-модели Интернета, если все люди в итоге будут обращаться туда, а не, например, в Google. В заключение Серф сказал, что "мы должны быть осторожны, потому что если правда, что историю пишут те, кто побеждает, то вполне возможно, что следующую историю будет писать искусственный интеллект", - сказал он. Он сказал это как бы с полуулыбкой, но не все в зале засмеялись".