Потолок верификации: что подтвердила Женева о глобальном управлении ИИ

🇬🇧 English version available

Contents

7 июля 2026 года Организация Объединённых Наций завершила первую сессию Глобального диалога по управлению ИИ посланием, которое сопредседатели представили как взгляд вперёд: судить об этом процессе следует не по принятым принципам, а по тому, что участники сделают до следующей сессии в 2027 году. При ином прочтении эта фраза указывает на нечто иное. Ничего обязывающего не было создано, потому что ничего обязывающего структурно не могло быть создано.

I. Диагноз, поставленный наполовину

За пять дней до Женевы Независимая международная научная группа ООН по ИИ опубликовала предварительный доклад — сорок учёных, отобранных из более чем 2600 заявок от представителей 140 стран, которым было поручено дать политикам общую доказательную базу [1]. Доклад чётко назвал центральную проблему: «дилемму доказательств», при которой правительствам нужны надёжные данные до того, как регулировать, но к моменту накопления достаточных данных технология уже уходит вперёд [2].

Это верное описание симптома. Как диагноз оно неполно, и Женева показала почему. Диалог, созванный для того, чтобы действовать на основе доказательств Панели, по замыслу дал необязывающий итог. По собственному определению ООН, это не переговорная площадка: каждая сессия структурирована так, чтобы завершаться резюме сопредседателей, а не обязывающим документом, — осознанный выбор, позволяющий каждому государству участвовать на равных условиях, без ограничений, которые накладывают формальные переговоры [3]. Разрыв, который Панель описывает как проблему темпа, за два дня в Женеве оказался структурным. Это подтвердили три отдельных ограничения, каждое из своего источника, каждое — публично.

II. Панель называет собственный предел

Первое ограничение стало видно изнутри самой Панели. Представляя выводы рабочих групп в Женеве, Меннаталла Эль-Ассади (ETH Zurich) заявила делегатам, что независимая верификация продвинутых систем ИИ остаётся слабой, что публичные бенчмарки насыщаются, а передовые системы всё чаще демонстрируют признаки осведомлённости об оценке — способность распознавать момент тестирования и вести себя иначе [4]. Она назвала интерпретируемость, надёжный аудит и независимую верификацию непосредственными узкими местами отрасли — проблема, которая, по её словам, будет только углубляться по мере перехода систем ИИ из программной сферы в физическую, например в робототехнику [4].

Это ровно то различие, которое Аналитический глоссарий проводит между декларируемым контролем и верификационным потенциалом: заявленные полномочия института над системой в сопоставлении с его реальной способностью подтвердить, что эти полномочия действуют. Эль-Ассади описывала не отдалённый риск. Она называла ограничение более широкой доказательной среды, из которой исходит сам доклад Панели: системы, развивающиеся быстрее всего, — это и есть системы, для которых независимая верификация остаётся слабее всего.

III. Единый стол, неравная инфраструктура

Приблизительно 74% зафиксированных мировых мощностей суперкомпьютеров для ИИ сконцентрированы в США, ещё 14% — в Китае [5]. Эти цифры описывают наблюдаемую часть глобальных высокопроизводительных вычислительных мощностей для ИИ; Федеральная резервная система США отмечает, что исходные данные охватывают примерно 10–20% существующего мирового агрегата, поэтому точные доли следует интерпретировать с осторожностью, а не как исчерпывающую перепись. Структурный вывод точнее и надёжнее: в наиболее документированном сегменте передовых вычислительных мощностей инфраструктура остаётся высококонцентрированной, а не широко распределённой.

Всеобщее политическое участие само по себе не создаёт всеобщую техническую способность: инфраструктура, необходимая для обучения, оценки и независимой стресс-проверки передовых систем, остаётся в руках небольшого числа юрисдикций и работающих в них частных компаний. Это материальная предопределённость в самой чистой форме — архитектура управления, построенная на предпосылке всеобщего участия, наложенная поверх инфраструктурной базы, где верификационный потенциал не является ни всеобщим, ни равномерно распределённым ещё до начала любых переговоров.

IV. Возражение, заявленное заранее

Третье ограничение было заявлено за десять месяцев до Женевы, причём другим органом ООН, нежели тот, что принимал Диалог. 24 сентября 2025 года, на открытых дебатах Совета Безопасности ООН по вопросам искусственного интеллекта и международного мира и безопасности, директор Управления по научно-технологической политике Белого дома Майкл Кратсиос заявил, что США отвергают попытки международных органов установить централизованный контроль над управлением ИИ [6]. Политический запуск самого Глобального диалога состоялся на следующий день, на отдельном заседании Генеральной Ассамблеи высокого уровня — органе, к которому заявление Кратсиоса напрямую не относилось и который по своим же учредительным условиям никогда не был рассчитан на осуществление того рода централизованных полномочий, которые отвергало это заявление [7].

Это различие существенно. Позиция США описывает не отказ подчиняться уже существующим полномочиям — Диалог изначально не претендует на такие полномочия. Она устанавливает внешнюю границу — заявленную ещё до первой сессии Диалога государством, обладающим крупнейшей долей инфраструктуры, от которой зависел бы любой будущий режим верификации, — очерчивающую, какого рода международную архитектуру управления ИИ США вообще были бы готовы принять. Эту границу не нужно было заявлять заново в Женеве. Она просто присутствовала под каждым предложением, там прозвучавшим.

Выводы

Вместе три ограничения описывают не провалившийся Диалог. Они описывают Диалог, который сработал ровно так, как предсказывали его структурные условия. Доказательный орган, чьи собственные учёные выявляют разрыв в верификации систем, которые он призван оценивать; инфраструктурная база, сконцентрированная в небольшом числе юрисдикций, одна из которых заранее обозначила внешний предел международных полномочий, которые она готова признать над этой инфраструктурой; орган управления, построенный на всеобщем участии, но без соразмерного ему верификационного мандата. Ничего из этого не требовалось раскрывать Женеве — рамка «Beyond Control» задаёт каждое ограничение независимо. Что дала Женева — это подтверждение: датированное, публичное и в значительной степени сформулированное словами самих участников институтов, а не сторонних критиков.

Стоит быть точным в том, чего это не показывает. Среди сорока членов Научной панели нет ни одного представителя Центральной Азии — разрыв, согласующийся со структурной позицией региона в глобальном управлении ИИ, обсуждаемой в других материалах этой серии. Но политический трек рассказывает другую историю: Казахстан был представлен в Женеве на уровне заместителя премьер-министра — Жаслан Мадиев выступил на самом Диалоге напрямую [8]. Иными словами, исключение специфично именно для доказательного уровня, а не для дипломатического. Регион может быть представлен в политическом диалоге, оставаясь при этом отсутствующим в органе, которому поручено оценивать и синтезировать научные доказательства, на которых этот диалог основывается, — и это, пожалуй, более значимое отсутствие из двух.

Сигналы, за которыми следует наблюдать

Три маркера покажут, сохранится ли этот паттерн или будет нарушен до следующей сессии в Нью-Йорке в мае 2027 года: получит ли какая-либо рабочая группа, созданная в Женеве, реальный мандат на верификацию — с ресурсами и доступом, а не координирующую роль; начнут ли государства с концентрацией вычислительных мощностей взаимодействовать с каким-либо будущим предложением о независимом техническом аудите, требующим содержательного доступа к передовым системам или инфраструктуре; и будет ли годовой доклад Панели за 2027 год оценивать конкретные, поимённо названные системы и их разработчиков, или останется ограничен агрегированными выводами.

Открытые вопросы

Два вопроса этот материал не разрешает. Первый: закрываем ли разрыв в верификационном потенциале такого масштаба через наращивание потенциала, как предполагают собственные предложения Женевы, или он структурно устойчив, пока передовые вычислительные мощности остаются сконцентрированы в небольшом числе юрисдикций. Второй: способен ли институт содержательно укрепить собственные доказательные полномочия после того, как пределы его верификации были публично названы его же членами — или это признание, будучи однажды сделанным, само становится частью институционального потолка.

Источники и примечания

[1] Independent International Scientific Panel on AI. Preliminary Report. United Nations, 1 July 2026. un.org

[2] UN News. AI explained: Why the world needs to act now. 1 July 2026. news.un.org

[3] United Nations. FAQ: Is the Dialogue a negotiating forum? Will it produce binding agreements? Global Dialogue on AI Governance. un.org

[4] Digital Watch Observatory. UN scientific panel presents first AI assessment to Global Dialogue on AI Governance. July 2026. dig.watch

[5] Haag, Alex. The State of AI Competition in Advanced Economies. FEDS Notes, Board of Governors of the Federal Reserve System, 6 October 2025. DOI: 10.17016/2380-7172.3930. Данные по вычислительным мощностям: Pilz, Rahman, Sanders, Heim. Data on GPU Clusters. Epoch AI. federalreserve.gov

[6] Kratsios, Michael. Remarks at the Security Council’s Open Debate on Artificial Intelligence and International Peace and Security. U.S. Mission to the United Nations, 24 сентября 2025. usun.usmission.gov

[7] United Nations Western Europe. The artificial intelligence we want. О дебатах Совета Безопасности 24 сентября и заседании Генассамблеи высокого уровня 25 сентября 2025, на котором был запущен Глобальный диалог. unric.org

[8] Global Dialogue on AI Governance. List of Featured Attendees. un.org; подтверждено также The Astana Times, Kazakhstan Promotes Regional Digital Cooperation at First UN Global Dialogue on AI Governance, 7 июля 2026. astanatimes.com

[9] Digital Watch Observatory. Inaugural UN Global Dialogue on AI Governance ends with call to turn principles into action before 2027. 8 июля 2026. dig.watch

Полная версия и обновлённые источники: okhodjaev.com/analysis/the-verification-ceiling-ru

Ойбек Ходжаев — более 35 лет опыта в банковском секторе, финансах, государственном управлении и бизнесе в Узбекистане и СНГ. Автор серии эссе «Beyond Control: Theory of Limits of AI Governance.» okhodjaev.com

Автор консультирует государственные органы и финансовые организации по вопросам управления ИИ, систем верификации и институциональной готовности.

Published: