Anthropic, OpenAI и Google рассматривают возможность создания органа по безопасности для саморегулирования ИИ

Руководители ведущих лабораторий в области искусственного интеллекта (ИИ) призывают к заключению соглашения, чтобы сдержать ожесточенную конкуренцию, в которой они оказались, и рассматривают возможность создания органа, который будет контролировать системы ИИ, которые, судя по достигнутым в этом году успехам, могут нанести ущерб на миллионы в случае сбоев в работе. Статья, опубликованная в субботу генеральным директором Anthropic Дарио Амодеи в поддержку замедления темпов развития искусственного интеллекта, получила поддержку со стороны некоторых из самых влиятельных фигур в индустрии ИИ, таких как генеральный директор OpenAI Сэм Альтман, руководитель подразделения ИИ в Google Демис Хассабис и генеральный директор SpaceX Илон Маск. Среди откликов — реакция Хассабиса, который опубликовал в X (ранее Twitter) свою поддержку призыва Амодеи, а Альтман последовал его примеру в социальной сети, написав, что «прогресс был быстрым и будет таким и дальше». «Но это должно происходить медленнее», — напомнил он, отметив, что конкуренция между гигантами не должна служить оправданием возможной неосторожности. «В письме Амодеи говорится, что ввиду опасности, которую может представлять несогласованность моделей ИИ, которые с этого северного лета экспоненциально продвинулись в плане производительности и возможностей, вызвав единичные случаи, такие как атака роя агентов ИИ от OpenAI на Hugging Face, он предлагает план из трёх шагов по замедлению разработки передовых моделей и введению мер безопасности и оценки, которые будут идти в ногу с их прогрессом». По данным The Washington Post, до того как эссе Амодеи получило поддержку и было опубликовано, компании Anthropic, OpenAI и Google обсуждали возможность создания нового независимого органа саморегулирования, который будет отвечать за внедрение стандартных мер безопасности в секторе, развивающемся с очень высокой скоростью». Этот орган был бы аналогичен органам в других отраслях, как отметил Амодей, приведя в качестве примера Управление по регулированию финансовой индустрии (FINRA), которое, будучи частной некоммерческой организацией, уполномоченной Конгрессом США, отвечает за надзор и саморегулирование компаний, занимающихся ценными бумагами, и биржевых брокерских фирм в стране. Речь идет о беспрецедентном органе, задуманном самими компаниями Кремниевой долины, которые ускорили развитие технологии, которую теперь хотят сдержать собственными силами. Фактически, сам Амодей предложил запросить «ограниченное» исключение из антимонопольного законодательства США, которое позволило бы им договариваться и согласовывать эти ограничения безопасности. «Тем не менее, эти призывы к замедлению темпов развития и введению новых правил для отрасли усугубят политическую бурю, с которой сталкивается правительство США. Сам президент Дональд Трамп высказался против торможения развития, заявив: «Мы опережаем Китай в области ИИ, мы — самая передовая страна в мире, и, честно говоря, я хочу, чтобы так и оставалось». Кроме того, в отрасли, среди некоторых конкурентов, а также в администрации США раздаются критические голоса, указывающие на то, что согласованное замедление темпов развития между гигантами отрасли не только будет действовать как «картель» для блокирования более мелких конкурентов, но и ослабит стратегическое преимущество страны перед соперничающими державами, такими как Китай».