«Срочные меры»: ООН призывает контролировать ИИ, пока он не превратился в «экзистенциальную угрозу»

Неделю назад Верховный комиссар ООН по правам человека Фолькер Тюрк призвал к «незамедлительным действиям» по регулированию генеративного искусственного интеллекта (ИИ) в связи с беспрецедентными рисками, которые несут в себе самые передовые системы. Это заявление приобрело особую актуальность в понедельник, 14 сентября, в контексте глобального предупреждения о потенциальных рисках, которые может нести с собой появление общего искусственного интеллекта — вида технологии, которая, теоретически, по ряду параметров превосходила бы когнитивные способности человека. После недели, наполненной предупреждениями со стороны таких правительств, как китайское, или самих разработчиков моделей ИИ с наибольшим потенциалом распространения, таких как Сэм Альтман (генеральный директор OpenAI), Дарио Амодеи (генеральный директор Anthropic) или сам Илон Маск (генеральный директор X и создатель Grok), Организация Объединенных Наций присоединилась к публичной дискуссии о необходимости регулирования развития этой технологии. Дело в том, что, похоже, её развитие идёт быстрее, чем человеческое осмысление и осознание её возможных последствий. На фоне неосведомлённости и предупреждений начинают распространяться призывы к осторожности. «Мы находимся на грани необратимых изменений, которые затронут не только нас, но и будущие поколения человечества», — заявил Турк в своём заявлении. «Я призываю государства и компании срочно принять меры в рамках многосторонних механизмов», — добавил он. «Эта технология ставит под угрозу все права человека, включая право на жизнь», — подчеркнул он. «Обеспокоенность последствиями стремительного развития ИИ растет. Ряд американских руководителей из технологического сектора также выступили за замедление темпов развития в этой области. «Генеральный директор Anthropic Дарио Амодей высказался в пользу замедления темпов развития, чтобы обеспечить более тщательную оценку рисков, связанных с новыми возможностями ИИ. Его публично поддержали его коллега из OpenAI Сэм Альтман, а также Илон Маск». По словам Верховного комиссара, «нынешняя гонка за созданием всё более мощного ИИ влечёт за собой радикальные изменения и подвергает все аспекты нашей жизни всё большему экзистенциальному риску». « «Мы находимся на заре необратимых перемен, которые затрагивают не только нас, но и будущие поколения человечества», — добавил он, выразив сожаление по поводу того, что в настоящее время «мы почти полностью зависим от небольшого числа влиятельных компаний в принятии правильных решений о развитии ИИ на благо всего человечества». Тюрк призвал страны, в которых разрабатываются технологии ИИ, а также участников их цепочек поставок работать вместе над установлением четких ограничений. «Нам нужна независимая проверка и гораздо более тесное сотрудничество в области безопасности внутри сектора», — подчеркнул он. Однако он подчеркнул, что проблема выходит за рамки технической безопасности. «Группа людей обладает практически неограниченной властью над ИИ», — отметил он, имея в виду растущую концентрацию технологической власти и огромные объемы данных, которые собираются и обрабатываются. Он настаивал на необходимости технологий, «которые служат человечеству, а не наоборот», в контексте занятости, демократии и окружающей среды, и подчеркнул, что права человека должны оставаться руководящим принципом. «Верховный комиссар также выразил обеспокоенность по поводу использования ИИ в военных действиях, особенно в связи с разработкой оружия, способного принимать смертоносные решения без вмешательства человека». Тюрк заявил, что «потрясен» сообщениями о полностью автономных дронах, которые, как утверждается, были задействованы Россией и убили трех украинцев в прошлом месяце. Согласно сообщениям, Украина также испытывала подобное оружие. «Я присоединяюсь к призывам о срочном запрете оружия, способного лишать жизни без вмешательства человека», — заявил он членам Совета. Кроме того, он предупредил, что война в Украине, которая вступает в пятый год, по-прежнему приводит к росту числа жертв среди гражданского населения и нанесению ущерба критически важной энергетической инфраструктуре, при этом на территории России также фиксируются погибшие и раненые». Тюрк распространил своё предупреждение на общую картину глобальной безопасности и выразил глубокую озабоченность в связи с распространением вооружённых конфликтов и подрывом международного права. В настоящее время насчитывается более 60 конфликтов, в которых участвует по крайней мере одна страна — такого уровня не наблюдалось со времени окончания Второй мировой войны». Верховный комиссар также выразил тревогу в связи с возобновлением военных действий между США и Ираном и их геополитическими и экономическими последствиями. «Жертвы среди гражданского населения по-прежнему остаются реальностью», — отметил он, упомянув, в частности, нападение на свадьбу в иранской провинции Хормозган. «Говоря о Ближнем Востоке, Тюрк осудил продолжающиеся израильские атаки в секторе Газа и ограничения на доставку гуманитарной помощи, а также планы по принудительному переселению палестинцев и дегуманизирующую риторику некоторых высокопоставленных израильских чиновников. Он также осудил казни и пытки, предположительно совершаемые вооружёнными группировками, связанными с ХАМАС. «В отношении оккупированного Западного берега реки Иордан Тюрк призвал принять меры против аннексии, расширения израильских поселений и поставок оружия, которые могут способствовать нарушениям международного права». «Международное сообщество должно удвоить свои усилия для достижения прочного мира, в котором Палестина и Израиль будут сосуществовать бок о бок, обладая равным достоинством и равными правами», — заявил он. «Слова осуждения звучат пусто на фоне преднамеренных нарушений и страданий». «По материалам AFP»