Компания Anthropic предлагает, чтобы США могли блокировать опасные модели ИИ с разрешения суда

Компания Anthropic, разработчик ИИ-помощника Claude, предложила собственную систему регулирования в связи с отсутствием федерального закона, согласно которой Вашингтон мог бы запретить опасную модель ИИ, но только с разрешения судьи. Как сообщило издание Politico, эта инициатива была представлена американским законодателям. «Текст предполагает, что Вашингтон сможет заблокировать модель ИИ в случае неминуемой угрозы, способной привести к гибели более 50 человек, причинению тяжких телесных повреждений или убыткам на сумму свыше 1 миллиарда долларов. И всё это — с одобрения судьи». Кроме того, разработчики ИИ будут обязаны «тестировать наиболее мощные модели», обеспечивать прозрачность результатов для общественности, а также «подвергать их независимой оценке» и «поддерживать надёжную программу безопасности», — сообщил в минувшую пятницу агентству AFP представитель компании Anthropic. При администрации Дональда Трампа компании, занимающиеся ИИ, обязаны соблюдать лишь указы и добровольные обязательства. Республиканский президент выступает против сдерживания бурного развития этой технологии, которая стимулирует экономику США. «Конгресс по-прежнему разделился по этому вопросу и не принял никаких соответствующих законов». «Вопрос безопасности ИИ приобрел актуальность после раскрытия информации о ряде инцидентов, вызванных передовыми системами искусственного интеллекта, которые вышли из-под контроля своих создателей». В июне компания Anthropic была вынуждена по требованию Вашингтона приостановить работу своих самых передовых моделей почти на три недели после того, как Пентагон наложил на них запрет. «Отношения компании с администрацией Трампа недавно улучшились. «Наше предложение (по регулированию) также предоставляет федеральному правительству возможность блокировать или пресекать внедрение наиболее мощных моделей, когда это представляет опасность», — подчеркнул представитель Anthropic. «Предложение Anthropic появилось на фоне сильных опасений и неопределённости в отношении развития ИИ. Более того, сами предприниматели недавно обратились с призывом замедлить темпы развития этой технологии». «Одним из них был Сэм Альтман, генеральный директор OpenAI, который заявил, что одним из главных рисков является то, что человечество в конечном итоге утратит контроль над собственным будущим. Кроме того, он призвал к введению общих правил безопасности для компаний, разрабатывающих самые передовые модели, и заявил, что «никакое давление со стороны американских конкурентов не должно оправдывать неосторожность». «В свою очередь, Альтман счёл необходимым, чтобы методы, направленные на обеспечение согласованности и безопасности систем, развивались в том же темпе или даже опережали возможности моделей». «Нам нужны способы обеспечить, чтобы методы регулирования и безопасности опережали прогресс в возможностях моделей», — заявил он. «Он также подчеркнул опасность чрезмерной концентрации власти в руках тех, кто контролирует самые передовые технологии. По его словам, чрезвычайно мощный искусственный интеллект может стать инструментом, с помощью которого человек, компания или даже страна смогут навязать свои интересы остальным». «По материалам AFP»