Марк Цукерберг отвергает призывы к замедлению развития искусственного интеллекта во всей отрасли

Основатель и генеральный директор Meta Марк Цукерберг отверг призывы к компаниям, занимающимся искусственным интеллектом, объединить усилия для замедления темпов разработки своих продуктов — это произошло после предупреждений из числа сотрудников лабораторий ИИ о потенциальной угрозе уничтожения человечества со стороны вышедших из-под контроля технологий. В интервью с главным техническим аналитиком NBC News Джоанной Стерн Цукерберг заявил, что ведущие компании в сфере ИИ могли бы замедлить или приостановить разработку своих продуктов, если бы посчитали эту технологию небезопасной. Его позиция противоречит недавним призывам к скоординированным действиям со стороны генерального директора Anthropic Дарио Амодеи и генерального директора OpenAI Сэма Альтмана. «Я не думаю, что нам нужна какая-то общеотраслевая координация», — сказал Цукерберг. «Я считаю, что каждая лаборатория должна уделить этому время, и когда она видит, что есть проблемы, просто уделяет столько времени, сколько необходимо внутри компании, чтобы в принципе убедиться, что работа ведется безопасно». Его комментарии прозвучали в ходе обширной дискуссии со Стерн о подходе Meta к ИИ, носимым устройствам и конфиденциальности. Цукерберг подробнее разъяснил свои комментарии, опубликованные им на X на прошлой неделе, дистанцировавшись от призывов Амодеи и Альтмана «замедлить» или регулировать темпы развития ИИ. Цукерберг занял вызывающую позицию на фоне растущей обеспокоенности рисками, связанными с передовыми системами ИИ. В начале сентября бывший исследователь Anthropic Джейкоб Коксон вызвал волну острой обеспокоенности, когда уволился из-за опасений, что системы ИИ могут выйти из-под контроля человека в ближайшие несколько лет. Амодей опубликовал статью, в которой призвал к межкорпоративным усилиям по «определению границ» развития ИИ; вскоре эту инициативу поддержал Альтман вместе с соучредителем Google DeepMind Демисом Хассабисом и Илоном Маском из xAI. Цукерберг заявил, что в таких усилиях нет необходимости, отметив, что, по мнению критиков, они являются «троянским конем», который может позволить компаниям, занимающимся ИИ, исключить конкуренцию и взять под свой контроль процесс регулирования отрасли. «Я считаю, что существует достаточно коммерческих стимулов для того, чтобы сделать всё правильно», — сказал он. В среду Амодей и Альтман выступили перед Советом Безопасности ООН, воспользовавшись заседанием, чтобы обосновать необходимость сотрудничества в целях замедления темпов развития ИИ, чтобы выиграть время для разработки адекватных мер безопасности и контроля. В беседе со Стерном в Калифорнии Цукерберг подчеркнул, что потребители естественным образом будут выбирать те продукты, которые лучше всего отвечают их потребностям, и отметил, что небезопасный или неудобный продукт отпугнет потенциальных пользователей. «Если вы разрабатываете продукт, люди не захотят им пользоваться, если он не будет делать то, что им нужно», — сказал он. Популярность Muse AI — автономного ИИ-помощника компании — резко возросла в последние недели. Выпущенный 8 сентября, он может выполнять целый ряд действий от имени пользователей — от бронирования авиабилетов и ответов на электронные письма до составления аналитических сводок и отмены неиспользуемых подписок на журналы. В настоящее время Muse является самым популярным бесплатным приложением в магазинах Apple App Store и Google Play. С момента появления в ноябре первого широко распространенного агента для потребителей — OpenClaw — несколько компаний, занимающихся искусственным интеллектом, в том числе Amazon и Nvidia, также выпустили свои собственные ИИ-агенты. В качестве примера возможностей Muse Цукерберг рассказал, что его личный агент Muse помог ему проанализировать результаты тренировки по смешанным единоборствам, подключившись к камерам, наблюдающим за его тренировочной зоной. «По сути, у вас будет чрезвычайно способный помощник, который сможет понимать то, что для вас важно», — сказал Цукерберг. По словам Цукерберга, вместо того чтобы беспокоиться о далеких апокалиптических сценариях, связанных с быстро совершенствующимися системами ИИ, компании, занимающиеся ИИ, должны сосредоточиться на том, чтобы их системы понимали желания и намерения пользователей и обрабатывали эту информацию с осторожностью. «Решение этих вопросов станет следующим важнейшим шагом на пути к тому, чтобы соответствовать тому, чего люди на самом деле хотят в этом мире», — сказал Цукерберг. Цукерберг отметил, что система Muse на самом деле представляет собой несколько агентов, работающих совместно — другой агент Meta AI под названием Sentinel контролирует и регулирует деятельность основного агента Muse. Если Sentinel замечает, что агент Muse потенциально выходит за пределы своих полномочий, агент-контролер может предупредить пользователей и запросить разрешение человека, прежде чем предпринимать какие-либо дальнейшие действия. «ИИ-агент должен быть обучен с нуля, чтобы понимать, какой информацией можно делиться, а какой — нет», — сказал Цукерберг. Muse и другие ИИ-агенты вызвали опасения по поводу конфиденциальности, учитывая объем информации и доступ, которые пользователи могут им предоставить, включая привязку учетных записей электронной почты, банковских карт и прочего, чтобы они могли действовать без вмешательства человека. Цукерберг заявил, что информация пользователей в безопасности с Meta, сославшись на послужной список компании в области конфиденциальности и зашифрованный обмен сообщениями в WhatsApp как доказательство того, что пользователи могут доверять Muse свои данные. «Мы доказали, что способны создавать такие передовые системы безопасности мирового уровня», — сказал Цукерберг, упомянув, что Meta сотрудничала с ведущим в своей области криптографом, стоящим за популярным приложением для анонимного обмена сообщениями Signal, с целью разработки собственной безопасной технологии. «Я думаю, что это то, что может вселить в людей уверенность». Оценивая общую картину развития ИИ, Цукерберг дистанцировался от предупреждений Коксона и других исследователей о том, что ИИ может привести к исчезновению человечества в течение нескольких лет. Вместо этого он подчеркнул, как персонализированные системы ИИ могут революционизировать жизнь человека — повторив свои мысли из августовского эссе о зарождении персонализированного сверхразума. «Существует много риторики, наполненной мрачными прогнозами», — сказал Цукерберг. «Я довольно оптимистично настроен и считаю, что будущее будет очень позитивным для всех».