Дилемма регулятора: почему нельзя управлять тем, за чем не успеваешь

🇬🇧 The Regulator’s Dilemma: Why You Cannot Govern What You Cannot Keep Up With · ← На главную

Contents

В 1995 году я возглавлял Отдел ценных бумаг и инвестиций УзАгроПромБанка (впоследствии реорганизованного в Пахта-Банк, а затем преобразованного в Агробанк) в Ташкенте — подразделение, объединявшее несколько департаментов и отвечавшее за инструменты, которые годом ранее существовали разве что на бумаге. Узбекистан провозгласил независимость четырьмя годами ранее, а новая нормативная база рынка ценных бумаг была принята совсем недавно. Вскоре после этого Центральный банк и Министерство финансов совместно издали Правила выпуска и обращения переводных векселей — впервые разрешив банкам и предприятиям выпускать простые и переводные векселя.

Наш банк стал первым и крупнейшим эмитентом переводных векселей в стране, финансируя доминирующий хлопковый сектор Узбекистана. И почти сразу же между писаными правилами и операционной реальностью начал открываться разрыв.

Регуляция, как быстро выяснилось, была сырой. Неполной. Не прошедшей проверку практикой. Каждую неделю мы сталкивались с ситуациями, которые правила не предусматривали, — ни разъяснений, ни прецедента, ничего. Как один из ведущих практиков, работавших непосредственно с этими инструментами, я начал писать собственные рекомендации Центральному банку о том, как решать проблемы, которые официальные документы не предвидели. Регулятор учился у рынка, а не наоборот.

Затем появились подделки. Векселя начали массово фальсифицировать. У эмитентов не было специализированных лабораторий для выявления фальшивок. Предприятия принимали мошеннические инструменты, отгружали под них товар и несли убытки. Прокуратура возбуждала уголовные дела по всей стране. Финансовое мошенничество с векселями приобрело национальный масштаб — инструмент начал функционировать как полноценный заменитель наличных денег вне сколько-нибудь значимого надзора. Учитывая, что мы были крупнейшим эмитентом, а хлопок — доминирующим сектором аграрной экономики, масштаб мошенничества и ущерб для экономической системы оказались серьёзными.

У регулятора не было готового сценария действий. В итоге реакция дошла до высшего политического уровня и стала категоричной. Обращение векселей было резко свёрнуто под острым операционным и надзорным давлением, и инструмент был ликвидирован как чрезвычайная мера. Не постепенно. Не через выверенное регулирование. Через директивное решение, положившее конец эксперименту.

Последние три года я наблюдаю разворачивание точно той же структурной последовательности в управлении ИИ: первоначальный фреймворк, развёртывание, опережающее надзор, появление угроз, которые правила не предусматривали, и вопрос о том, что происходит, когда масштаб ущерба требует категоричного ответа.

Тезис неудобен, но, на мой взгляд, верен: институты, управляющие искусственным интеллектом сегодня, не делают плохой выбор между доступными вариантами. Они пойманы в структурную ловушку, у которой нет чистого выхода. Я называю это трилеммой регулятора.

Любой регуляторный орган, столкнувшийся с быстро развивающейся технологией, должен одновременно балансировать три требования: понимать технологию достаточно глубоко, чтобы эффективно её регулировать; действовать достаточно быстро, чтобы сохранять актуальность, пока технология не обогнала регуляторную рамку; и сохранять легитимность — доверие и независимость, которые делают регулирование обязывающим, а не декоративным. Эти три требования не просто трудно удовлетворить одновременно. В контексте передового ИИ они структурно находятся в напряжении друг с другом. Удовлетворение любых двух из них требует жертвовать третьим.

Это не критика отдельных регуляторов. Это описание институциональной физики.

I. Правила пришли после того, как игра уже началась

В середине 1990-х Центр координации и контроля за функционированием рынка ценных бумаг Узбекистана — первая в стране попытка создать регулятора рынка капитала — столкнулся с проблемой, не имевшей прецедента в его институциональной памяти. Финансовые инструменты, которые он должен был контролировать, сами находились в процессе изобретения. Правовая база для регулирования прав собственности на ценные бумаги ещё разрабатывалась. У профессиональных норм андеррайтинга, торговли и раскрытия информации не было местной традиции, на которую можно было бы опереться.

Эпизод с векселями, описанный во вступлении, не был изолированным сбоем. Это была структурная демонстрация того, что происходит, когда правила пишутся теоретически, без практиков за столом и без возможности проверить их перед развёртыванием в масштабе. Та же последовательность повторилась в начале 2000-х с первыми корпоративными облигациями, выпущенными в Узбекистане. Правила были. Теория была. Проверки в реальных условиях не было. И разрыв между писаной рамкой и операционной реальностью открылся почти сразу — те же практики, которым приходилось управлять этим разрывом, вновь понимали происходящее лучше регулятора.

Ответ регулятора был разумным и, оглядываясь назад, поучительным. Он создавал документацию: лицензионные рамки, требования к отчётности, стандарты раскрытия информации. Документация была серьёзной и тщательно подготовленной. Но к тому моменту, когда очередной свод правил консолидировался, участники рынка — адаптировавшиеся быстрее, чем мог собраться любой комитет, — уже переходили на следующий этап. Разрыв не был следствием недостатка усилий или ума. Он был структурным. Регулятор вёл процесс, работавший в институциональных временных рамках, против рынка, работавшего в конкурентных.

Это фундаментальный механизм: регуляторные процессы медленнее, чем явления, которые они регулируют. Не время от времени. Структурно.

То, что в конечном счёте сделало узбекский кейс 1990-х разрешимым, заключалось в том, что рассматриваемые инструменты, какими бы новыми они ни были локально, имели международные прецеденты. Опытные консультанты из международных институтов могли объяснить, как работает вторичный рынок облигаций, потому что в других странах рынки облигаций существовали десятилетиями. Регуляторный разрыв можно было закрыть — несовершенно, но содержательно — путём импорта уже существующего институционального знания.

У управления ИИ нет такого варианта. Не существует близкого исторического прецедента того, на что способны передовые системы ИИ при сопоставимой скорости и универсальности, — не потому, что институциональная память коротка, а потому, что кривая развития возможностей качественно отличается от предыдущих трансформационных технологий. Разрыв в знании здесь не географический. Он временной.

II. Проблема знания

Понимать технологию достаточно глубоко, чтобы её регулировать, — не то же самое, что понимать её достаточно, чтобы о ней рассуждать. Большинство сегодняшних фреймворков управления ИИ демонстрируют второе, испытывая трудности с первым.

Закон ЕС об ИИ (EU AI Act) — наиболее всеобъемлющий регуляторный фреймворк в сфере ИИ, созданный какой-либо крупной юрисдикцией, — классифицирует системы ИИ по уровню риска и присваивает соответствующие обязательства разработчикам и операторам [1]. Это связный и обоснованный подход. Проблема — в том, что он предполагает: что регуляторы способны точно определить, к какой категории риска относится та или иная система ИИ, и что эта категоризация останется устойчивой по мере развития систем.

Оба допущения нестабильны на переднем крае технологии. Возможности больших языковых моделей не полностью определены их разработчиками на момент развёртывания. Они проявляются через взаимодействие с пользователями и контекстами, которые ни одна лаборатория не способна полностью предвидеть [2]. Классификация передовой системы как «высокорисковой» или «ограниченно рисковой» требует технического суждения, которым большинство регуляторов пока не располагают в институциональном масштабе, — не потому, что люди неквалифицированны, а потому, что сама оценочная наука ещё незрела.

Механизм сбоя здесь знаком по банковскому регулированию: техническая сложность инструментов опережает оценочный потенциал надзорного органа. Рейтинговые агентства в 2006 и 2007 годах присваивали рейтинги ААА ипотечным ценным бумагам, используя модели, неспособные уловить структуру корреляции базовых активов в условиях стресса [3]. Они не лгали. Они применяли наилучшую доступную методологию к инструментам, реальный профиль риска которых не был доступен ни одной из существующих методологий.

Регуляторы ИИ находятся в аналогичном положении. Разница в том, что финансовые инструменты 2007 года были по крайней мере вычислимы. Профили риска передовых систем ИИ — эмерджентные возможности, потенциал двойного назначения, эффекты взаимодействия в масштабе — остаются лишь частично измеримыми и высокочувствительными к контексту и условиям развёртывания, причём это касается и самих лабораторий, создающих эти системы.

III. Ловушка скорости

Регуляторные процессы работают в институциональных временных рамках. Законодательство разрабатывается, проходит консультации, пересматривается, принимается и внедряется годами. В промежутке между разработкой и правоприменением технология не останавливается.

Закон ЕС об ИИ даёт самую наглядную иллюстрацию. Первоначальные предложения были внесены в апреле 2021 года [4]. Финальный текст был опубликован в июле 2024 года [1]. Правоприменение положений с наивысшим уровнем риска начинается в 2025–2026 годах [1]. За пять лет между первоначальным предложением и активным правоприменением передний край возможностей ИИ продвинулся от GPT-3 — способной производить правдоподобный текст — до систем, способных на мультимодальное рассуждение, генерацию кода, агентное выполнение задач и помощь в научных исследованиях на уровне, который не был предусмотрен в процессе разработки 2021 года [5].

Это не критика Европейской комиссии. Пять лет — не медленный темп для законодательного процесса; на самом деле это удивительно быстро для регулирования такого масштаба и сложности. Проблема в том, что «удивительно быстро для законодательства» и «достаточно быстро для передового ИИ» — не один и тот же стандарт.

У ловушки скорости есть второе измерение. Ускорение — издание экстренных директив, обход обычных консультационных процедур, публикация временных фреймворков — обменивает скорость на легитимность. Регулирование, которое выглядит поспешным, недостаточно проконсультированным или технически поверхностным, с большей вероятностью будет оспорено, обойдено или просто проигнорировано теми структурами, которые оно должно регулировать. Регуляторные органы, действовавшие быстрее всех в сфере ИИ — издававшие оперативные директивы без глубокого технического обоснования, — порой обнаруживали, что их фреймворки оспариваются именно на этом основании.

Механизм таков: ускорение жертвует доверием, которое делает регулирование эффективным. Ожидание сохраняет доверие, но жертвует актуальностью. Не существует такой скорости, при которой оба фактора максимизируются одновременно.

IV. Парадокс легитимности

Легитимность в регулировании зарабатывается медленно, а теряется быстро. Она зависит от продемонстрированной компетентности — способности понимать предмет регулирования — и от воспринимаемой независимости от поднадзорных структур.

Оба измерения находятся под давлением в управлении ИИ. Что касается компетентности: наиболее технически квалифицированные специалисты, понимающие передовые системы ИИ, в подавляющем большинстве работают именно в компаниях, создающих эти системы. Концентрация экспертизы не случайна. Она — функция уровня оплаты труда, доступа к инфраструктуре и простого факта, что технология создаётся именно в этих организациях и больше нигде с сопоставимой глубиной. Регуляторные органы, агрессивно нанимающие специалистов — а некоторые из них пытаются это делать, — всё равно сталкиваются со структурным отставанием [6].

Что касается независимости: та же концентрация экспертизы создаёт структурный риск регуляторного захвата — когда регулируемая отрасль постепенно формирует фреймворки, призванные её ограничивать, не обязательно через недобросовестность, а просто потому, что регуляторы зависят от отраслевой экспертизы, чтобы понимать предмет своего регулирования. Этот паттерн не гипотетичен. Он хорошо задокументирован в финансовых услугах, фармацевтике и телекоммуникациях [7].

Случай ИИ отличает скорость, с которой действует эта динамика. В прежних отраслях регуляторный захват был процессом, измерявшимся десятилетиями. В управлении ИИ окно между созданием надзорных органов и их подверженностью отраслевому влиянию измеряется месяцами.

Парадокс легитимности: чем глубже техническое понимание регулятора, тем больше его зависимость от отраслевой экспертизы; чем больше зависимость от отраслевой экспертизы, тем более структурно скомпрометирована его независимость. Чистого решения здесь нет. Это свойство самой проблемы управления, а не устранимый дефект конструкции.

V. Почему ИИ усложняет разрешение трилеммы при нынешних институциональных формах

Предыдущие поколения трансформационных технологий — железные дороги, ядерная энергетика, фармацевтика, интернет — регулировались с разной степенью успеха. В каждом случае трилемма регулятора существовала, но со временем оказывалась разрешимой. Разрыв в знании удавалось закрыть, потому что технология в конце концов стабилизировалась. Разрыв в скорости удавалось контролировать, потому что темп изменения возможностей был ограничен. Легитимность удавалось сохранять, потому что регуляторное сообщество могло развивать независимую техническую экспертизу без полной зависимости от отрасли.

Передовой ИИ отличается тремя особенностями, которые осложняют каждый из этих путей.

Во-первых, возможности ИИ не сходятся к устойчивому состоянию. Каждое поколение передовых моделей привносит качественно новые возможности — не инкрементальные улучшения существующих, — требующие новых оценочных фреймворков. Проблема знания не убывает со временем; она обнуляется при каждом новом пороге возможностей.

Во-вторых, цикл развёртывания ускорился до точки, в которой ломается традиционный регуляторный контур обратной связи. Фармацевтике требуются годы от разработки до массового развёртывания. Строительство АЭС занимает десятилетия. Передовые системы ИИ способны пройти путь от обучения до широкого развёртывания в коммерческих временных рамках, измеряемых месяцами, а эффекты их взаимодействия с обществом становятся наблюдаемы уже в процессе развёртывания, а не до него [8]. Регуляторы не могут изучить технологию прежде, чем регулировать её развёртывание, если развёртывание опережает изучение.

В-третьих, концентрация релевантной экспертизы более экстремальна, чем в любой прежде регулируемой отрасли. Техническое знание, необходимое для содержательной оценки безопасности передовых систем ИИ, сильно сконцентрировано в небольшом числе частных лабораторий и смежных исследовательских команд. Закрытие этого разрыва через найм в государственном секторе потребовало бы изменений в оплате труда и институциональной культуре, которых ни одно правительство пока не достигло в нужном масштабе [6].

Выводы

  • Нынешнее регулирование ИИ не выбирает, каким двум из трёх измерений трилеммы отдать приоритет. Оно пытается достичь всех трёх одновременно и не достигает ни одного в достаточной глубине. Результат — фреймворки, всеобъемлющие на бумаге и тонкие в правоприменении: та же архитектура декларируемого контроля, которая предшествовала каждому крупному управленческому провалу в недавней институциональной истории.

  • Наиболее эффективные в ближайшей перспективе ограничения в управлении ИИ, вероятно, будут исходить не от регуляторных органов, а от институтов с прямой ответственностью за риск. Страховые андеррайтеры, институциональные кредиторы и сотрудники государственных закупок несут реальные финансовые последствия в случае сбоя систем ИИ. Это создаёт стимулы к оценке, которые регуляторные фреймворки, выстроенные вокруг соответствия документации, в настоящее время не воспроизводят. Причина, по которой эти структуры могут проходить трилемму иначе, структурна: от них не требуется соответствовать тому же стандарту легитимности публичного права, поскольку они действуют через договор и закупочное усмотрение, а не через статутное право. Они могут обновлять свои условия ежеквартально, не дожидаясь законодательных циклов. И они могут точечно приобретать независимую техническую оценку, не выстраивая постоянный бюрократический потенциал. Их ограничивает иной тип институциональной физики — тот, который по случайному совпадению точнее отражает реальный профиль риска развёртывания ИИ.

  • Юрисдикции, которые открыто признают трилемму и выстраивают управленческую архитектуру вокруг неё — вместо того чтобы делать вид, что её можно разрешить, — создадут более устойчивые фреймворки, чем те, что производят всеобъемлющее регулирование без потенциала правоприменения. Частичное, честное управление функциональнее, чем полное, перформативное управление. Честное признание того, что вы не можете полностью оценить предмет своего регулирования, — это не слабость. Это начало реалистичного фреймворка.

Сигналы для наблюдения

  • Технический найм регуляторных органов в сопоставлении с наймом в передовых лабораториях. Если институты безопасности ИИ добавляют специалистов по оценке безопасности в десять раз медленнее, чем передовые лаборатории добавляют исследователей, разрыв в знании расширяется, а не сокращается — независимо от объёма законодательной продукции этих институтов.

  • Характер первого крупного правоприменительного действия против передовой ИИ-лаборатории. Что его спровоцировало? Какие технические доказательства собрал регулятор? Продемонстрировал ли процесс независимый оценочный потенциал — или опирался преимущественно на собственную документацию компании? Ответ скажет об управленческом потенциале больше, чем любой опубликованный фреймворк.

  • Развитие рынка страхования ответственности за ИИ. Когда коммерческие страховщики начнут систематически устанавливать цену на покрытие ответственности за ИИ — и на каких условиях они будут исключать или включать конкретные категории риска, — это станет рыночной оценкой риска, действующей независимо от регуляторных определений. У страховщиков нет интереса декларировать риски безопасными, если они таковыми не являются. Следите за тем, когда их поведение начнёт расходиться с публичным позиционированием отрасли.

Вопросы, которые остаются открытыми

В середине 1990-х узбекский регулятор рынка ценных бумаг не разрешил свою трилемму. Он управлял ею — несовершенно, под давлением, с внешней помощью и значительными издержками по пути. Рынки развивались. Правила в конце концов догнали часть реальности. Оставшиеся разрывы закрывались институциональными обходными решениями, которые никто не проектировал, но которые все понимали.

Эта траектория заняла примерно пятнадцать лет. Вопрос в том, есть ли у управления ИИ пятнадцать лет. Или пять лет. Или пять месяцев. Или окно уже короче, чем время, необходимое для закрытия разрыва в знании любым из известных институциональных механизмов.

У меня нет ответа на этот вопрос. Но я знаю, что каждый управленческий фреймворк, объявлявший трилемму решённой, — утверждавший, что одновременно понимает технологию, действует быстро и сохраняет легитимность, — в конечном счёте опровергался системой, которую он регулировал.

Вопрос, к которому я постоянно возвращаюсь: если бы вы проектировали управление ИИ, зная, что хорошо можете сделать только два из трёх, — какие два вы бы выбрали и что бы вы построили, честно признав, что третьим пришлось пожертвовать?

Никто в рамках какого-либо официального управленческого процесса сегодня публично не задаёт этот вопрос. Я думаю, что само это молчание — сигнал.

Источники и примечания

[1] Европейский парламент. Regulation (EU) 2024/1689 — Artificial Intelligence Act. Official Journal of the European Union, 12 июля 2024. eur-lex.europa.eu

[2] Ganguli, Deep, et al. «Predictability and Surprise in Large Generative Models.» Proceedings of the 2022 ACM Conference on Fairness, Accountability, and Transparency (FAccT ‘22). Association for Computing Machinery, 2022. dl.acm.org

[3] Комиссия по расследованию причин финансового кризиса (Financial Crisis Inquiry Commission). The Financial Crisis Inquiry Report. U.S. Government Publishing Office, 2011. fcic.law.stanford.edu

[4] Европейская комиссия. Proposal for a Regulation on Artificial Intelligence (AI Act). COM(2021) 206 final, 21 апреля 2021. eur-lex.europa.eu

[5] Anthropic; OpenAI; Google DeepMind. Публичные раскрытия возможностей моделей и карточки моделей, 2021–2025 гг. Сравнительные хронологии задокументированы CSET (Джорджтаунский университет). cset.georgetown.edu

[6] Институт безопасности ИИ Великобритании (UK AI Safety Institute). AI Safety Institute: Third Progress Report. Министерство науки, инноваций и технологий, февраль 2024. gov.uk

[7] Dal Bó, Ernesto. «Regulatory Capture: A Review.» Oxford Review of Economic Policy 22(2), 2006. academic.oup.com

[8] Bommasani, Rishi, et al. On the Opportunities and Risks of Foundation Models. Stanford CRFM, 2021 (обновлено в 2022). arxiv.org

[9] Президент Республики Узбекистан. Указ № УП-1738 «О мерах по упорядочению обращения переводных и простых векселей в Республике». 19 марта 1997 г. Признан утратившим силу 3 октября 2012 г. lex.uz

[10] Президент Республики Узбекистан. Указ № 294 «О реорганизации Узагропромбанка в Пахта-Банк». 27 июля 1995 г. lex.uz

Ойбек Ходжаев: аналитик системной трансформации, основатель и генеральный директор INVEXI LLC. Бывший заместитель хокима (вице-губернатор) Самаркандской области. Ранее — директор казначейства и заместитель председателя правления АО «УзАгроПромБанк». Более тридцати лет опыта в экономике, банковском деле, финансах и бизнесе в Узбекистане и странах СНГ.

Published February 23, 2026 на https://okhodjaev.com/essays/the-regulators-dilemma-ru/

Substack · X.com · LinkedIn

Published: