Иллюзия контроля: чему распад СССР учит управление ИИ

🇬🇧 The Illusion of Control · ← На главную

Contents

Мне было двадцать два года 31 августа 1991 года.

В тот вечер мой отец вернулся домой с заседания Верховного Совета в Ташкенте. Мой отец — доктор экономических наук, народный депутат, председатель Комитета по экономическим реформам — был одним из тех, кто непосредственно участвовал в подготовке документа. Документа, который за одно заседание распустил то, что четырём поколениям моей семьи говорили: это навсегда, это неизбежно, это нерушимо. Советский Союз — ядерная сверхдержава, крупнейшее государство мира, система, сформировавшая каждый институт, каждую карьеру, каждое представление о том, как устроен мир, — подходил к концу.

В тот же вечер мы все сидели перед телевизором и смотрели обращение президента Каримова. Реакции в комнате были разными. Одни не понимали, что произошло. Другие не хотели это принимать. Мир, который существовал всю их жизнь, только что перестал существовать — и у них не было слов для этого.

Что я помню больше всего — не празднование. А тишину перед ним. На мгновение депутаты в том зале осознали, что они только что совершили нечто необратимое. Не просто историческое. Эпохальное.

И всё же ещё три месяца назад почти никто в этом здании — да и нигде — не верил, что это возможно.

Именно об этом я думаю, когда сегодня читаю документы по управлению ИИ. Не об изощрённости языка. О тишине перед ним.

Тезис прост: институты, претендующие сегодня на управление искусственным интеллектом, воспроизводят паттерн, который я наблюдал в разрушении систем куда более устойчивых, чем они сами. Они имитируют контроль вместо того, чтобы его осуществлять. И механизмы этой имитации — разрыв между тем, что институты заявляют, и тем, что они реально способны обеспечить, — идентичны механизмам, которые я наблюдал в каждом крупном системном коллапсе последних тридцати пяти лет.

I. Архитектура заявленного контроля

В советской системе контроль был тотальным — на бумаге. Государство планировало всё: производство, цены, распределение, культуру. Госплан производил тома данных, прогнозов и плановых показателей. Комитеты курировали комитеты. Каждый институт отчитывался наверх по цепочкам надзора, которые в теории доходили до Политбюро.

Разрыв в правоприменении — пространство между заявленными полномочиями и реальной способностью их обеспечивать — оставался невидимым, пока не перестал им быть.

Это не древняя история. Та же архитектура существует сегодня в управлении ИИ. Закон ЕС об искусственном интеллекте насчитывает сотни страниц регуляторных требований [1]. OpenAI публикует рамочные документы по безопасности и карточки моделей. Anthropic берёт на себя обязательства по политике ответственного масштабирования. Добровольные отраслевые коалиции множатся.

Механизм провала идентичен: имитационный контроль — институциональное производство видимости надзора без инфраструктуры правоприменения, способной её подкрепить.

По состоянию на начало 2026 года по-прежнему не существует широко уполномоченного независимого аудиторского режима с регулярным доступом к внутреннему устройству передовых моделей в крупных лабораториях [2]. Отдельные надзорные органы существуют, но их доступ остаётся ограниченным, добровольным или неунифицированным. Прозрачность есть. Подотчётности нет.

Урок 1991 года: когда разрыв между заявленным и реальным контролем становится слишком широким, система не ослабевает постепенно. Она рушится внезапно. И этот коллапс застаёт врасплох всех — включая тех, кто её построил.

II. Совет директоров, который думал, что обладает властью

17 ноября 2023 года совет директоров OpenAI уволил Сэма Альтмана [3]. У них были на это законные полномочия. Они их использовали.

В течение пяти дней Альтман вернулся. Сотрудники пригрозили массовой отставкой. Microsoft — крупнейший инвестор OpenAI, вложивший 13 миллиардов долларов, — дала понять, что некоммерческая миссия, которую защищал совет, вторична по отношению к уже поставленному на кон капиталу.

Когда я читал об этом, моей первой мыслью было: история повторяется. В 1985 году Стив Джобс был отстранён от Apple. Совет директоров обладал формальными полномочиями. У института были другие центры притяжения. Но вторая мысль была более тревожной.

Совет директоров OpenAI считал, что управляет организацией, разрабатывающей передовой ИИ. Это было не так. Он обнаружил, что центр притяжения сместился в другое место. Реальные решения — о компромиссах в безопасности, сроках развёртывания, о том, какие риски приемлемы, — принимались на пересечении конкурентного давления, ожиданий инвесторов и технологической инерции.

Механизм здесь — это рассогласование стимулов в институциональном масштабе. Формальные полномочия совета директоров и реальное место принятия решений разошлись. Это расхождение оставалось невидимым, пока не стало иметь значение.

Я видел это раньше — не в технологическом секторе, а в государственных институтах, столкнувшихся с рыночным давлением, к управлению которым они не были спроектированы. Структура остаётся. Контроль испаряется. Структура держится ещё немного. Затем что-то ломается.

III. Репетиция 2008 года

В 2008 году финансовая система продемонстрировала, что происходит, когда управление рисками превращается в представление для регуляторов, а не в подлинное операционное ограничение [4].

Рейтинговые агентства объявляли ипотечные ценные бумаги безопасными. Банки объявляли свои риски управляемыми. Регуляторы объявляли надзор достаточным. Все эти заявления подкреплялись моделями, рамочными документами и документацией.

Механизм: информационная асимметрия, превращённая в оружие через сложность. Те, кто создавал инструменты, знали об их реальном риске больше, чем те, кто должен был их контролировать. Прозрачность производила данные. Она не производила подотчётность.

Управление ИИ начинает воспроизводить тот же механизм. Лаборатории публикуют карточки моделей. Они раскрывают характеристики обучающих данных. Они отчитываются о red-teaming тестировании. Но реальные профили риска передовых моделей — возникающие способности, потенциальные векторы злоупотребления, эффекты взаимодействия при масштабировании — остаются недоступны для любого внешнего аудитора. Не потому что они скрыты, а потому что технической способности их оценить пока не существует ни в одном регуляторном органе.

Мы уже видели этот паттерн раньше — и знаем, как выглядят режимы провала.

IV. Мираж координации

Климатическое управление за тридцать лет наглядно продемонстрировало пределы добровольных рамок для решения проблем коллективного действия [5].

Процесс COP производит соглашения, цели, обязательства и коммюнике с 1995 года. Глобальные выбросы продолжают расти. Механизм провала — не недобросовестность. Механизм — это асимметрия национальных интересов: издержки соблюдения немедленны и локальны; выгоды коллективного действия отложены и рассеяны.

Управление ИИ структурно идентично. Добровольные обязательства, подписанные на саммите по безопасности ИИ в Блетчли-парке (2023) и Сеульском саммите по безопасности ИИ (2024), следуют той же логике, что и обязательства COP: достоверны в момент подписания, размываются под конкурентным давлением [6].

Окно для того, чтобы рамки управления догнали реальность, — это не тридцать лет. Даже не три года. Возможно, месяцы.

Выводы

Во-первых: нынешняя волна активности в области управления ИИ производит видимость надзора быстрее, чем его содержание. Разрыв между заявленным и реальным контролем расширяется, а не сужается.

Во-вторых: следующий крупный провал управления ИИ, вероятно, будет внезапным, а не постепенным. Как кризис в совете директоров OpenAI, как коллапс 2008 года, как август 1991-го — он застанет врасплох людей, у которых был доступ ко всей релевантной информации, но которые читали не те сигналы.

В-третьих: институты, находящиеся вне нынешней дискуссии об управлении, — страховые андеррайтеры, институциональные инвесторы, государственные закупщики, регуляторы торгового финансирования — могут наложить более эффективные ограничения на развитие ИИ, чем любая добровольная рамка безопасности. Именно так исторически дисциплинировался системный риск: не институтами, которые его создали, а институтами, которые его оценивают в цене.

Сигналы, за которыми стоит следить

  • Соотношение команд безопасности и команд развёртывания в передовых лабораториях. Снижающееся соотношение = расширяющийся разрыв в правоприменении, независимо от публичных обязательств.

  • Продвижение законодательства об ответственности за ИИ в любой крупной юрисдикции. Добровольные обязательства без ответственности структурно идентичны советским плановым показателям без последствий за несоблюдение.

  • Поведенческое расхождение между страховщиками/инвесторами ИИ-компаний и их публичным позиционированием. Когда те, кто оценивает хвостовые риски в цене, действуют иначе, чем те, кто управляет публичным сообщением, — разрыв в правоприменении стал виден людям с реальными ставками.

  • Частота и тяжесть публично раскрытых инцидентов с ИИ — и переходит ли отчётность об инцидентах от добровольной к обязательной в любой крупной юрисдикции.

Вопросы, которые остаются открытыми

Поколение моего отца верило — пока не перестало верить, — что построенная ими система стабильна, потому что она всегда была стабильной.

Я не предсказываю коллапс. Я выявляю паттерн. Паттерн таков: институты заявляют о контроле, которого у них нет. Они выстраивают архитектуры документации, создающие видимость подотчётности. Они удивляются, когда разрыв между заявлением и реальностью закрывается резко, а не постепенно.

Вопрос не в том, столкнётся ли управление ИИ с моментом расплаты. Вопрос в том, произойдёт ли этот момент тогда, когда ещё остаётся время скорректировать курс.

Никто в том зале в Ташкенте 31 августа 1991 года тремя месяцами ранее не верил, что этот день настанет. Никто не верил тогда — и никто не верит сейчас.

В чём вы уверены сегодня — и в чём вы перестанете быть уверены через три месяца?

Мой отец — сегодня профессор и академик Самаркандского института экономики и статистики — продолжает работать. Он стал свидетелем конца одной системы. Он наблюдает за началом другой.

Источники и примечания

[1] European Parliament. Regulation (EU) 2024/1689 — Artificial Intelligence Act. Official Journal of the European Union, 12 July 2024. eur-lex.europa.eu

[2] UK AI Safety Institute; US AI Safety Institute (NIST). По состоянию на начало 2026 года ни одна юрисдикция не установила обязательный независимый аудит с регулярным доступом к весам моделей или процессам обучения передовых моделей в крупных лабораториях.

[3] Отстранение Сэма Альтмана от OpenAI, ноябрь 2023 года. Множественные публичные источники: New York Times; CNN Business; Fortune; NPR; Financial Times. Инвестиции Microsoft в размере 13 млрд долларов подтверждены несколькими источниками. Альтман восстановлен в должности 22 ноября 2023 года.

[4] Financial Crisis Inquiry Commission. The Financial Crisis Inquiry Report. U.S. Government Publishing Office, 2011. fcic.law.stanford.edu

[5] IPCC. Synthesis Report of the IPCC Sixth Assessment Report (AR6). Geneva, 2023. ipcc.ch

[6] Bletchley Declaration on AI Safety, November 2023 (28 countries). Seoul Ministerial Statement for Advancing AI Safety, May 2024. Available via UK Department for Science, Innovation and Technology. gov.uk

[7] Декларация независимости Узбекистана. Верховный Совет Узбекской ССР, 31 августа 1991 года. 1 сентября установлено Днём независимости Законом Республики Узбекистан.

[8] О разрыве между управлением и контролем в ИИ см. также: CSET (Georgetown). AI Safety Technical Research series 2023–2025; Anthropic. Responsible Scaling Policy, September 2023. anthropic.com

Ойбек Ходжаев: аналитик системных трансформаций, основатель и генеральный директор INVEXI LLC. Бывший заместитель хокима Самаркандской области. Ранее — директор казначейства и заместитель председателя правления АО «УзАгроПромБанк». Более тридцати лет опыта в экономике, банковском деле, финансах и бизнесе в Узбекистане и странах СНГ.

Опубликовано 12 февраля 2026 на https://okhodjaev.com/essays/the-illusion-of-control-ru/

Published: