Наблюдательный совет Meta выступил с предупреждением в адрес компаний, занимающихся искусственным интеллектом, которые создают собственные механизмы контроля

Члены Наблюдательного совета Meta — самого долгосрочного эксперимента по независимому надзору в технологической отрасли — дают совет компаниям, занимающимся искусственным интеллектом, которые намерены создать собственные независимые комитеты по безопасности: предоставьте этим советам реальные полномочия, иначе они не будут иметь большого значения. На протяжении шести лет Совет выносил решения по вопросам модерации контента компании. В интервью члены Совета отметили, что независимые комитеты по безопасности, которые компании, работающие в сфере ИИ, включая Google, Anthropic, OpenAI, Meta, XAI и Nvidia, пообещали создать на прошлой неделе, могут оказаться не более чем «витриной», если им не будут предоставлены четкие полномочия, реальная независимость и возможность противостоять руководству. «Если речь идет о подлинном надзоре, между компанией и этим органом неизбежно возникнут трения», — сказал Паоло Кароцца, член Наблюдательного совета и профессор права и политологии Университета Нотр-Дам, комментируя рекомендации совета по надзору за компаниями, занимающимися ИИ. «Если таких трений нет, это верный признак того, что эффективного независимого надзора не осуществляется», — добавил он. Наблюдательный совет — организация, юридически независимая от Meta, которая имеет право окончательного голоса по определенным вопросам, касающимся социальных сетей в компании, и дает рекомендации, не имеющие обязательной силы, по множеству других тем, — опубликовал открытое письмо в ответ на новое добровольное «Соглашение Белого дома о сверхинтеллекте», чтобы поделиться своими рекомендациями относительно новых инициатив в области управления искусственным интеллектом. «В случае с инструментом, который обладает столь же большим потенциалом, сколь и рисками, как ИИ, нам потребуется многоуровневый подход к управлению, включающий корпоративные политики, принятые в отрасли стандарты, независимый надзор за соблюдением этих стандартов с различных точек зрения, а также как нормативное регулирование, так и международную координацию», — написала группа в недавнем заявлении. Члены группы выразили надежду, что любые новые комитеты смогут конструктивно решить проблемы, связанные с ИИ, но при этом они скептически отнеслись к тому, что компании, занимающиеся ИИ и становящиеся всё более влиятельными, готовы будут отказаться от контроля, необходимого для реальных изменений. «Я считаю, что компания, занимающаяся ИИ, должна быть готова подвергнуться тщательной проверке, даже если это для нее неудобно, потому что именно благодаря этому дискомфорту компания завоюет еще большее доверие со стороны общественности», — сказала Джули Овоно, член Наблюдательного совета и исполнительный директор международной некоммерческой организации по защите цифровых прав «Internet Sans Frontières» («Интернет без границ»). В своём недавнем письме Наблюдательный совет опубликовал шесть рекомендаций о том, как независимые органы должны осуществлять контроль над компаниями, занимающимися ИИ, в том числе путём установления конкретного мандата, обеспечения структурной стабильности и независимости, привлечения межотраслевых экспертов и уделения особого внимания прозрачности. «Прозрачность имеет первостепенное значение», — сказала Овоно. Соглашение Белого дома о «суперинтеллекте» — которое не обязывает OpenAI, Anthropic, Google, Meta, Nvidia или XAI к каким-либо конкретным действиям — уточняет, что предполагаемые независимые комитеты, контролирующие меры по обеспечению безопасности, принимаемые компаниями в сфере ИИ, должны состоять из членов советов директоров этих компаний. В состав Наблюдательного совета Meta не входят члены совета директоров Meta; вместо этого в него входят независимые эксперты, в том числе журналисты и правоведы, специализирующиеся на правах человека, а также лауреат Нобелевской премии мира и бывший премьер-министр Дании. Нигат Дад, член Наблюдательного совета и исполнительный директор Фонда цифровых прав, занимающегося вопросами Пакистана, заявила, что независимые комитеты по безопасности в компаниях, занимающихся ИИ, должны иметь реальный доступ к непубличной информации, которая может быть нелестной для компаний, а также обладать финансовой независимостью. «Является ли комитет независимым от компании? Распоряжается ли он собственным бюджетом и самостоятельно определяет состав своих членов? Кто из членов принимает эти решения, и являются ли эти решения обязательными к исполнению?» — спросила Дад. «Если ответ «нет», то это не надзор. А если ответ «да», то это действительно может изменить поведение компаний», — сказала она. Meta контролировала часть процесса отбора членов совета до 2023 года и предоставляла совету финансирование — более 300 миллионов долл. с 2019 года, хранящихся в независимом трасте. Эвелин Дуэк, профессор права Стэнфордского университета, изучавшая деятельность Наблюдательного совета, заявила, что тем, кто стремится внедрить независимый надзор за компаниями, занимающимися искусственным интеллектом, есть чему поучиться на опыте этого совета. «Я считаю, что Наблюдательный совет следует рассматривать скорее как предостерегающий пример, а не как некую многообещающую модель того, как должен выглядеть независимый надзор в подобных ситуациях», — сказала Дуэк. Она указала, что совету были предоставлены лишь ограниченные полномочия по регулированию небольшой части решений Meta — в частности, касающихся модерации контента — вместо того, чтобы иметь обязательное к исполнению право голоса по более широким вопросам политики и безопасности Meta. Кароцца согласилась с тем, что совет мог бы быть более эффективным, если бы его структура была построена иначе — и именно этот опыт задним числом побудил её высказаться до того, как компании, занимающиеся ИИ, окончательно закрепят свои собственные планы надзора. «Никто в Наблюдательном совете не утверждает, что мы являемся образцом или решением», — сказала Кароцца, подчеркнув при этом, что совет имеет шестилетний опыт, на который можно опираться, чтобы понять, что можно улучшить. Роналдо Лемос, профессор права в Государственном университете Рио-де-Жанейро и член Наблюдательного совета Meta, заявил, что любой эффективный механизм обеспечения соблюдения компаниями, занимающимися ИИ, мер безопасности требует от вовлечённых сторон настоящего разделения полномочий и полного отсутствия каких-либо финансовых или политических стимулов со стороны компании. OpenAI и Anthropic находятся на пути к выходу на публичные фондовые рынки в течение ближайших нескольких месяцев, при этом оценочная стоимость каждой из компаний превышает один триллион долларов. «Надзор должен быть независимым. Он должен быть прозрачным и иметь четкий мандат», — сказал он. Наблюдательный совет был создан в 2019 году компанией Meta — тогда еще называвшейся Facebook — для предоставления внешних рекомендаций по сложным вопросам, связанным со свободой слова. По данным Наблюдательного совета, в то время Facebook подвергался резкой критике за свою предполагаемую роль в распространении фейковых новостей и контента, подстрекавшего к насилию, которое стало частью геноцида рохингья в Мьянме. «Совет будет защищать интересы нашего сообщества — поддерживая право людей на свободу выражения мнения и следя за тем, чтобы мы выполняли свою обязанность по обеспечению безопасности пользователей», — написал тогда соучредитель и генеральный директор Facebook Марк Цукерберг, пообещав предоставить Наблюдательному совету достаточно информации и ресурсов для принятия решений. Дуэк из Стэнфорда указала на уникальную структуру Наблюдательного совета — его зависимость от Meta в плане финансирования — как на потенциальную причину его ограниченной эффективности. «В конечном счёте, людям очень трудно каким-либо значимым образом «кусать руку, которая их кормит», — сказала она. — Продолжение существования Наблюдательного совета зависело от того, будет ли Meta продолжать его финансировать». Некоторые эксперты указывают на OpenAI как на ещё один пример компании, чьи попытки контролировать меры по обеспечению безопасности оказались неудачными, несмотря на то, что она опиралась на независимый наблюдательный комитет. В силу уникальной корпоративной структуры OpenAI Комитет по безопасности и защите компании имеет право приостанавливать или откладывать выпуск продуктов из соображений безопасности, хотя государственные органы, осуществляющие надзор за компанией, недавно выразили недовольство эффективностью работы этого комитета. В OpenAI заявили, что комитет прилагает все усилия для обеспечения безопасности систем и продуктов компании. Дад, директор Фонда цифровых прав, также подчеркнула, что глобальный охват компаний, занимающихся ИИ, потребует скоординированных усилий по надзору на мировом уровне. «Стандарт, основанный на законодательстве какой-либо одной страны или разработанный самой компанией, никогда не будет восприниматься как легитимный пользователями во всех странах», — сказала она, указав на различия в культурном контексте даже между Индией и Пакистаном. Дад заявила, что надзорные органы компаний, занимающихся ИИ, должны опираться на международное право в области прав человека, чтобы обеспечить учет глобальных норм. Многие из механизмов надзора, предложенных в соглашении Белого дома, пока остаются неясными. В результате, по словам Дуэк, пока слишком рано судить, будут ли независимые надзорные органы, предусмотренные в соглашении, иметь какой-либо вес, хотя она отметила, что огромные размеры компаний, занимающихся ИИ, и сложность их технической работы могут ограничить возможности надзорных групп в понимании запутанных вопросов безопасности — проблема, которая, по словам членов Наблюдательного совета, возникла уже в их первоначальном составе. «Какими техническими возможностями и ресурсами должен обладать орган, чтобы действительно глубоко изучить вопросы и проблемы, требующие надзора?» — спросила она. Подчеркивая будущее экономическое и социальное влияние компаний, занимающихся искусственным интеллектом, Кароцца из Университета Нотр-Дам заявил: «То, как будут разработаны эти механизмы контроля сейчас, окажет решающее влияние через два, пять, десять лет с точки зрения их эффективности и того, придется ли нам отменять или переделывать принятые решения. Важно сделать все правильно с самого начала».