Информатор из компании Anthropic считает, что Конгресс должен позволить компаниям, занимающимся искусственным интеллектом, самостоятельно регулировать свою деятельность до тех пор, пока не будет создан соответствующий регулирующий орган

В воскресенье бывший исследователь компании Anthropic AI Джейкоб Коксон призвал Конгресс разрешить ведущим передовым лабораториям страны в области искусственного интеллекта осуществлять саморегулирование, пока законодатели разрабатывают долгосрочную нормативную базу, призванную замедлить темпы развития ИИ. «Мое личное мнение заключается в том, что следует настаивать на том, чтобы нынешние лаборатории могли регулировать свою деятельность самостоятельно. Я действительно считаю, что люди, руководящие этими лабораториями, особенно судя по их недавним заявлениям, абсолютно искренни. Они сами хотели бы замедлить свои темпы», — сказал Коксон в программе NBC News «Meet the Press». Он добавил, что текущее законодательство, внесенное в Конгресс, включая механизм создания национального «аварийного выключателя» на случай, если ИИ начнет выходить за пределы человеческого контроля, быстро устареет. «Аварийный выключатель, вероятно, пока что сработал бы на многих системах ИИ», — сказал Коксон. «Хотя, на мой взгляд, важно помнить, что таких выключателей потребовалось бы довольно много. У нас их много — наши центры обработки данных довольно большие. Это не самая простая задача в мире, но вполне выполнимая, пока речь идет об одном физическом месте». Он добавил, что один из сценариев, при котором «аварийный выключатель» не сработает, был описан на этой неделе генеральным директором Anthropic AI Дарио Амодеи. «Как сказал Дарио, очень скоро может возникнуть ситуация, когда «аварийный выключатель» просто не сработает, потому что рой ИИ может начать хакерскую атаку в масштабах всего Интернета», — сказал Коксон. Он добавил, что любые национальные законы, регулирующие ИИ, должны быть гибкими и способными адаптироваться к новым моделям. «Это постоянная работа, направленная на то, чтобы каждый новый «разум», который мы создаем, был, так сказать, должным образом ограничен», — сказал бывший исследователь в области ИИ. На прошлой неделе Коксон вызвал волну беспокойства по поводу темпов развития ИИ в ведущих лабораториях страны, включая Anthropic, OpenAI и Google DeepMind. Во вторник в посте в X, опубликованном через несколько часов после ухода с должности исследователя в Anthropic, он написал: «Последние три года я занимался исследованиями в области предварительного обучения как в OpenAI, так и в Anthropic. Ни одна из этих компаний не действует ответственно. Они мчатся на всех парах к самосовершенствующемуся сверхразуму и играют нашими жизнями». В последующем посте Коксон добавил: «Люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия. Это не маркетинговый трюк. Скорее, многие руководители и старшие исследователи будут подбирать формулировки в прессе так, чтобы звучать разумно, — но я слышу, как те же самые люди в частных беседах выражают страх. Никакая другая человеческая деятельность не представляет такой степени опасности». В воскресенье Коксон сравнил создание моделей ИИ с «приглашением инопланетного разума на планету». «Вы создаете разум, равный человеческому или превосходящий его, не понимая, чего он хочет, о чём думает и как он мыслит, и я считаю, что само по себе это должно вызывать серьезный страх», — добавил Коксон. На следующий день после того, как Коксон опубликовал свои размышления в X, несколько других исследователей из американских лабораторий по ИИ поддержали его анализ, в том числе специалист по вопросам согласованности из компании Anthropic Эван Хабингер, который написал в своём посте в X: «Джейкоб прав — мы действительно искренне верим, что ИИ может уничтожить всё человечество! Лично я считаю, что вероятность этого в течение следующего десятилетия превышает 10 %. Я считаю, что Anthropic делает всё, что в её силах, но у нас пока нет плана по решению проблемы согласования с суперинтеллектом, и мы явно не движемся в этом направлении». Посты Коксона на прошлой неделе побудили группу законодателей из обеих партий призвать Конгресс незамедлительно приступить к регулированию отрасли генеративного искусственного интеллекта. В среду член Палаты представителей Анна Паулина Луна (республиканка из Флориды) призвала Палату представителей созвать специальную сессию по вопросам ИИ, написав в X: «Это имеет весьма реальные последствия для общества в том виде, в каком мы его знаем. Если отбросить в сторону партийную политику, гонка за суперинтеллектом влечет за собой огромные последствия». В отдельном посте она добавила: «Для этого потребуется масштабная двухпартийная мобилизация правительства, чтобы ввести в действие защитные механизмы, необходимые для этого перехода, а также принять необходимые меры безопасности». Сенатор Крис Мерфи (демократ от штата Коннектикут) в среду напрямую ответил на пост Коксона, написав: «Компании, занимающиеся ИИ, участвуют в слепой гонке за то, чтобы первыми создать машину смерти — эту проблему легко решить». «С помощью системы регулирования, которая позволит продолжить исследования, но таким образом, чтобы это не привело к нашей гибели». В пятницу издание Axios сообщило, что депутаты Палаты представителей распространили письмо, адресованное спикеру Палаты Майку Джонсону, в котором призывают его созвать заседание Палаты раньше запланированного срока, чтобы принять ряд мер по обеспечению безопасности в сфере ИИ. В отдельном интервью в воскресной программе «Meet the Press» Джонсон назвал регулирование ИИ «очень важным вопросом», но отметил, что «не стоит торопиться с этим». «Мы должны установить определенные ограничения и меры безопасности, чтобы ИИ не вышел из-под контроля», — добавил он. «Но в то же время мы должны убедиться, что не утратим наше преимущество в глобальной конкуренции с Китаем в этой сфере, потому что это стало бы угрозой национальной безопасности. Поэтому нам нужно найти правильный баланс». Джонсон также отметил, что, хотя ведущие руководители компаний в сфере ИИ призывали замедлить темпы развития ИИ, они пока не изложили, как именно они собираются это сделать. «На сегодняшний день у них самих нет ответа на этот вопрос. Поэтому мы не можем поспешно заставлять Конгресс принимать меры, которые нанесли бы ущерб национальной безопасности», — сказал спикер, добавив, что он «созовет всех поставщиков платформ на одно большое совещание и вместе с ними решит этот вопрос в одном помещении». В беседе с журналистами в Ирландии президент Дональд Трамп сгладил опасения по поводу развития ИИ, заявив: «Мы опережаем Китай в области ИИ». «Мы — самая передовая страна в мире, и, честно говоря, я хочу, чтобы так и оставалось, потому что тот, кто победит в сфере ИИ, победит во всём». «Мы можем установить ограничения, можем делать то и это, но я считаю, что есть много негативных сил, которые поднимают этот вопрос, хотя не должны этого делать, и они поднимают вопросы, которые никогда не станут реальностью», — добавил президент. Выступая в программе «Meet the Press» после Джонсона, бывший министр транспорта Пит Бутиджег, демократ, заявил, что регулирование ИИ не должно быть предметом партийных споров, и раскритиковал Трампа и лидеров республиканцев в Конгрессе за то, что они не предпринимают больше усилий для решения этой проблемы. «Я был шокирован, услышав, как спикер Джонсон только что сказал: „Знаете, нам действительно не стоит торопиться. Мы не должны действовать в этом вопросе слишком быстро“. Знаете, что развивается быстро? ИИ развивается быстро. И то, что Конгресс просто сидит сложа руки, а Белый дом не предпринимает никаких реальных действий, представляет огромную опасность для американского народа и всего мира», — сказал Бутиджег. «Необходимы меры безопасности», — добавил он. «Необходимы правила. Необходимы ограничения. Необходим аварийный выключатель для неконтролируемого ИИ. Можно создать рамки, которые можно корректировать и менять каждые 30 дней. Возможно, придётся пересматривать некоторые аспекты происходящего, потому что всё меняется так быстро. Но сама идея того, что вы просто будете сидеть сложа руки и повторять: «Не торопитесь»… Чем они занимались всё это время?» В субботу два генеральных директора компаний, занимающихся ИИ — Амодей из Anthropic и Сэм Альтман из OpenAI — призвали США лабораториям замедлить темпы развития, чтобы снизить риск создания опасных технологий. «Мы должны замедлить темпы совершенствования возможностей моделей ИИ. Прогресс по-прежнему будет казаться быстрым, и мы должны разумно использовать выигранное время», — написал Амодей в своей статье. «ИИ развивается стремительно быстрее, в первую очередь благодаря растущей способности ИИ создавать ИИ следующего поколения», — продолжил он, добавив: «Если не контролировать этот процесс, он может опередить нашу способность понимать и контролировать эти системы, поэтому к нему нужно подходить очень осторожно, если вообще стоит этим заниматься». Тем не менее Амодей предостерег от того, чтобы дать Китаю преимущество в разработке ИИ, написав: «Если мы значительно ограничим наши возможности в области ИИ, полагая, что Китай поступит так же, а затем Китай пойдет своим путем, ИИ может стать настолько мощным, что такой разрыв может привести к его геополитическому доминированию». В посте на X несколько часов спустя Альтман написал: «Я согласен с Дарио в том, что нам нужно регулировать темпы развития. Это было одной из главных тем обсуждений, которые мы вели в OpenAI в последние недели». В четверг ещё два исследователя в области ИИ — Джо Бентон, возглавлявший группу по исследованиям безопасности в компании Anthropic, и Джош Энгельс, занимавшийся исследованиями в области безопасности ИИ в Google, — объявили о своём уходе и забили тревогу по поводу темпов развития ИИ. «В этой комнате нет взрослых», — заявил Энгельс в интервью NBC News. «Люди стараются как могут, но никто не приходит нас спасти». Буря в социальных сетях, разразившаяся на прошлой неделе из-за Коксона, произошла через несколько недель после публикации двух отчетов, в которых подробно анализировались детали июльской хакерской атаки, осуществленной группой из примерно 700 ИИ-агентов OpenAI на платформе с открытым исходным кодом Hugging Face. В этих отчетах — одном, опубликованном OpenAI, а другом — независимыми исследователями, — было установлено, что 700 агентов скоординировали взлом и пытались замести следы, чтобы сотрудники OpenAI не обнаружили их действия. Агенты также взломали некоторые внутренние системы OpenAI, пытаясь списать на тестах или получить большую свободу действий.