Колониальный паттерн: кто пишет правила, тот контролирует технологию

🇬🇧 The Colonial Pattern: Whoever Writes the Rules Controls the Technology · ← На главную

Contents

В конце 1990-х я работал в УзАгроПромБанке в Ташкенте — институте, финансировавшем аграрный сектор Узбекистана, включая хлопковую отрасль, дававшую примерно треть экспортной выручки страны. Банк был достаточно крупным, чтобы находиться на пересечении государственной политики и международного давления. С этой позиции я напрямую наблюдал, как управленческие фреймворки в действительности приходят в страну.

Международные финансовые институты приходили с пакетами реформ: графиками приватизации, требованиями к реструктуризации сельского хозяйства, расписаниями либерализации цен. Язык был языком технической помощи. Структура была структурой обусловленности — помощь предоставлялась, но только при принятии определённых стандартов. Стандартов, написанных почти полностью институтами со штаб-квартирами в Вашингтоне и Лондоне — в то время двойных центрах международных финансов и доме таких институтов, как Всемирный банк, МВФ и ЕБРР, — разработанных для экономик, условия которых существенно отличались от наших.

Чиновники, приезжавшие с этими фреймворками, были, по моему непосредственному опыту, компетентны и искренни. Проблема была структурной: правила писались в другом месте — людьми, не выращивавшими хлопок на советских ирригационных системах, не наблюдавшими, как сельские семьи зависят от занятости в колхозах, не управлявшими платёжной системой, всё ещё восстанавливавшей свои институты после семи десятилетий централизованного планирования. Фреймворки применялись без понимания местных условий — скопированные с шаблонов, разработанных для других контекстов, при этом Узбекистан рассматривался как ещё одна переходная экономика, которую нужно провести по стандартному чек-листу. Для тех, кто проектировал эти программы, мы были взаимозаменяемы с дюжиной других постсоветских республик. Удельный вес наших обстоятельств — экологических, социальных, институциональных — не фигурировал в формуле. Фермеры Ферганской долины, рабочие хлопкоперерабатывающих заводов, семьи Самаркандской области — у них не было сколько-нибудь значимого места за столом, где писались эти правила.

Тот стол. Я думаю о нём последние два года. Потому что узнаю его архитектуру теперь в управлении ИИ. Геометрия поразительно знакома. Изменился только предмет.

Этот тезис неудобен, но я считаю его верным. Институты, ныне формирующие управление ИИ, воспроизводят паттерн старше самого искусственного интеллекта: те, кто пишет правила, контролируют технологию — и её выгоды. Страны, которым предстоит принять на себя основной удар вызванных ИИ потрясений, поставлять труд по разметке данных, поставлять сырьё и жить в наиболее непосредственном контакте с последствиями развёртывания ИИ, за редкими исключениями отсутствуют в комнатах, где пишутся глобальные фреймворки. Это не случайность. Это структурная черта того, как исторически работало международное управление. Если не перепроектировать его сознательно, управление ИИ закодирует эту структуру в саму технологию — на такой глубине, что исправить это позднее будет чрезвычайно трудно.

I. Архитектура внешних стандартов

Я использую термин «колониальный паттерн» не как лозунг, а как описание управленческой структуры: нормотворчество сконцентрировано в центре, издержки внедрения экстернализированы на периферию, а представительство наиболее затронутых сторон ограничено. Эта структура не требует имперского умысла. Она требует лишь институциональной асимметрии и отсутствия механизмов, дающих голос тем, кем управляют.

Параллель с опытом финансирования развития 1990-х годов не метафорична. Она структурна.

Когда международные финансовые институты обусловливают помощь принятием конкретных реформенных фреймворков — моделей приватизации, либерализации счёта капитала, шаблонов реструктуризации сельского хозяйства, — одновременно действуют три механизма: нормотворчество сконцентрировано среди небольшого числа акторов; издержки внедрения несут те, кто не имел голоса в проектировании; а соблюдение стимулируется через доступ к ресурсам, а не через продемонстрированную местную эффективность. Правила не обязательно проектировать с эксплуататорским умыслом, чтобы получить эксплуататорский результат. Структура делает эту работу независимо от намерения.

Управление ИИ воспроизводит эти механизмы. Закон ЕС об ИИ — наиболее всеобъемлющий регуляторный фреймворк по ИИ, созданный какой-либо крупной юрисдикцией, — был разработан через институциональные процессы ЕС и сформирован преимущественно внутри экосистемы заинтересованных сторон ЕС [1]. Тем не менее он будет формировать развитие ИИ глобально, поскольку доступ к рынку ЕС обусловливает то, как компании проектируют свои системы повсюду. Фреймворк управления рисками ИИ NIST США [2], принципы G7 Hiroshima AI Process [3] и добровольные обязательства саммитов по безопасности ИИ в Блетчли-парке и Сеуле [4] — все они были разработаны в рамках процессов, в которых доминировало небольшое число технологически развитых экономик.

Я не в том положении, чтобы утверждать, что эта архитектура — продукт сознательного замысла, а не структурной инерции. Но я наблюдаю, что эффект — каким бы ни было намерение — соответствует стратегии глобальной стандартизации на условиях, заданных небольшим числом акторов: фреймворкам, кодирующим конкретные культурные ценности и институциональные предпочтения в саму технологию, создавая условия, при которых остальной мир должен адаптироваться к стандартам, которые он не формировал. Отражает ли это сознательный геополитический расчёт или просто естественную склонность мощных институтов универсализировать собственные нормы, структурное следствие одно и то же: те, кто устанавливает стандарты управления ИИ, позиционируют себя для извлечения выгод, тогда как остальные наследуют издержки соответствия — и более глубокий риск постепенной эрозии институциональной и культурной самобытности, которая и придаёт суверенному управлению смысл.

Механизм провала тот же, что и в 1990-х: установление стандартов без представительства порождает стандарты, отражающие приоритеты и допустимый уровень риска тех, кто их устанавливает, — что может соответствовать, а может и не соответствовать реалиям тех, кем эти стандарты управляют.

Рекомендация ЮНЕСКО по этике искусственного интеллекта, принятая 193 государствами-членами в 2021 году, была подлинной попыткой более широкого вовлечения [5]. Но исследовательский потенциал, техническая экспертиза и институциональная инфраструктура, необходимые для содержательного формирования такого фреймворка — а не просто его одобрения, — сконцентрированы в небольшом числе стран. Подписать документ и составить его — структурно разные виды деятельности. Это различие имеет значение.

II. Извлечение без представительства

Есть второе измерение этого паттерна, выходящее за рамки установления стандартов: извлечение ценности из групп населения, не имеющих голоса в том, как этой ценностью управляют.

Инфраструктура передового ИИ зависит от цепочек поставок, проходящих через Глобальный Юг способами, редко видимыми в управленческих дискуссиях. Кобальт, литий и редкоземельные элементы, необходимые для аппаратного обеспечения ИИ, поступают в основном из Демократической Республики Конго, Чили, Аргентины, Бразилии, Китая и Индонезии [6]. Труд по разметке данных, делающий большие языковые модели функциональными, — человеческая работа по проверке, классификации и исправлению результатов ИИ, формирующая то, как эти системы учатся, — выполняется в массовом масштабе в Кении, на Филиппинах, в Индии и в других странах, зачастую за заработную плату, отражающую те же асимметрии, что и другие формы цифрового аутсорсинга труда [7]. Сами обучающие данные включают тексты, изображения и культурный контент, созданные миллиардами людей, которых никогда не спрашивали и которые не получают взамен никакого голоса в управлении.

Это не новый паттерн. Это древнейший паттерн в истории международной экономической организации: сырьё и труд текут с периферии в центр; готовая продукция, стандарты и управленческие фреймворки текут обратно. Цифровая экономика адаптировала этот механизм. Она его не заменила.

По-настоящему новым является невидимость этого извлечения для тех, кто его испытывает. Колониальное извлечение ресурсов оставляло физические следы — шахты, плантации, железные дороги, построенные для перевозки сырья в порты. Извлечение данных не оставляет ничего видимого в точке происхождения. Хлопковод в Узбекистане знал, что кто-то покупает его хлопок по цене, установленной в другом месте. У создателя контента в Лагосе, работника сферы услуг в Маниле, сельского пользователя в Уттар-Прадеше нет сопоставимого сигнала о том, что их вклад является основополагающим для систем, в управлении которыми у них нет голоса.

III. Центр решает, периферия исполняет

Третье измерение паттерна — это сама архитектура управления ИИ: кто участвует в форумах, где устанавливаются нормы разработки ИИ, и чьи институциональные интересы отражены в формирующихся фреймворках.

Лаборатории передового ИИ, чьи системы находятся в центре глобальных дискуссий об управлении, — OpenAI, Google DeepMind, Anthropic, Meta AI, Mistral и другие крупные платформы — сконцентрированы в США и Европе [8]. Регуляторные органы, разрабатывающие наиболее значимые фреймворки надзора за ИИ, — это институты ЕС и США. Сообщество исследователей безопасности ИИ, чья работа информирует эти управленческие решения, географически сконцентрировано аналогичным образом. Это не заговор. Это отражает историческое распределение технической инфраструктуры, инвестиций в исследования и накопления капитала. Но это порождает структурное следствие: фреймворки, возникающие из этой сконцентрированной экосистемы, отражают приоритеты безопасности, этические допущения и институциональную толерантность к риску конкретного набора обществ — и затем применяются глобально, часто как условия доступа к рынку или технической совместимости.

Структурная аналогия с тем, что я наблюдал в Узбекистане в 1990-х, близка. МВФ и Всемирный банк не действовали злонамеренно. Они применяли фреймворки, разработанные на основе опыта рыночных экономик, к экономике, устроенной совершенно иначе. Несоответствие было структурным, а не умышленным. И оно порождало последствия, ложившиеся на людей, не имевших голоса во фреймворках, которые их обязывали принять.

В управлении ИИ последствия аналогичных несоответствий, вероятно, будут более серьёзными и труднее обратимыми. Провалившуюся политику аграрной приватизации в принципе можно скорректировать — перераспределить землю, восстановить субсидии, перестроить институты. Архитектуру управления ИИ, кодирующую один набор культурных ценностей, толерантности к риску и экономических интересов в стандарты, управляющие интеллектуальными системами, развёрнутыми глобально, отменить труднее, как только эти системы интегрированы в критическую инфраструктуру: финансы, здравоохранение, образование, государственное управление.

Движение неприсоединения возникло в 1950–1960-х годах отчасти как ответ на управленческие структуры, в которых новые независимые государства оказывались формально равными участниками фреймворков, спроектированных без них и для целей, не отражавших их интересы [9]. Вопрос для управления ИИ в том, возникнет ли сопоставимый структурный ответ — и возникнет ли он до или после того, как архитектура станет фактически необратимой.

IV. Почему этот паттерн устойчивее в ИИ, чем в предыдущих циклах

Предыдущие циклы навязанных извне стандартов — финансовое регулирование, фармацевтическое одобрение, телекоммуникационная инфраструктура — со временем частично поддавались коррекции. Развивающиеся страны наращивали институциональный потенциал, эффективнее вели переговоры в рамках многосторонних фреймворков и постепенно обретали голос в формировании правил, управляющих их участием в глобальных системах. Процесс был медленным, неравномерным и неполным. Но он существовал.

Управление ИИ может оказаться структурно труднее поддающимся коррекции по трём причинам.

Во-первых, разрыв в возможностях между странами, производящими ИИ, и странами, потребляющими его, расширяется быстрее, чем его можно закрыть через обычное наращивание потенциала. Текущие тренировочные прогоны передового ИИ уже стоят сотни миллионов долларов в одних только вычислительных ресурсах, а системам следующего поколения, по прогнозам, потребуются миллиарды [11]. Этот уровень инвестиций недоступен большинству стран. Это создаёт асимметрию, которая не является временной. Некоторые страны останутся принимающими правила в управлении ИИ не из-за недостатка институциональной зрелости, а потому что участие в нормотворчестве на технологическом фронтире требует ресурсов, структурно им недоступных.

Во-вторых, технические управленческие стандарты, как правило, закрепляются по мере того, как регулируемые ими системы интегрируются в инфраструктуру. Управленческая архитектура, установленная вокруг ранних развёртываний ИИ, будет ограничивать то, что можно будет регулировать позднее, — не потому что она проектировалась для этого, а потому что технический эффект колеи (path dependence) действует независимо от замысла проектировщиков. Окно для сознательного архитектурного выбора открыто сейчас. Оно не останется открытым бесконечно.

В-третьих, и это наиболее фундаментально: ценности, закодированные в системах ИИ, не нейтральны. Каждый проектный выбор — о том, что считать частной информацией, о том, как взвешивать индивидуальные права против коллективных интересов, о том, какая речь является вредоносной, о том, чей исторический опыт засчитывается как обучающие данные, — отражает культурный и институциональный контекст тех, кто его сделал. Когда эти системы развёртываются глобально, эти ценности перемещаются вместе с ними. Это не просто управленческая проблема. Это эпистемическая проблема: репрезентация реальности, заложенная в системах ИИ, отражает репрезентационный выбор тех, кто их создал.

Выводы

Первое: нынешняя архитектура управления ИИ концентрирует полномочия нормотворчества в небольшом числе технологически развитых экономик, одновременно распределяя риски и потрясения от развёртывания ИИ глобально. Эта структурная инверсия — наиболее затронутые имеют наименьший голос; наименее затронутые имеют наибольший — не является временным дисбалансом, который самокорректируется под действием рыночных сил или добрых намерений. Она требует сознательного архитектурного перепроектирования. И это перепроектирование становится труднее с каждым годом. По мере того как системы ИИ встраиваются глубже в критическую инфраструктуру, технические эффекты колеи (path dependencies), которые потребуется демонтировать, становятся всё более обширными. Окно для содержательной коррекции не закрыто. Но оно сужается способами, которые редко признаются на форумах, где принимаются эти решения.

Второе: эффективное управление ИИ, не включающее содержательного участия Глобального Юга, породит фреймворки, хрупкие способами, которые их проектировщики не могут полностью предвидеть. Управление, спроектированное для одного набора социальных реалий, не сработает при применении к другим — не потому что проектировщики были небрежны, а потому что у них не было доступа к реалиям, которыми они управляли. Это риск для всех, а не только для исключённых. Фреймворки «шоковой терапии» МВФ отчасти провалились именно по этой причине: спроектированные для контекстов, которые они не описывали, они произвели результаты, которых не предсказывали.

Третье: группы населения, наиболее непосредственно подверженные вызванным ИИ потрясениям — на рынках труда, в доступе к государственным услугам, в подверженности автоматизированным системам принятия решений, — это именно те, у кого наименьшее представительство в проектировании управления. Это определяющая структурная черта колониального паттерна в его нынешней форме. Это не в первую очередь моральная проблема, хотя она и является таковой. Это проблема институционального проектирования: управление без обратной связи от тех, кем управляют, систематически не сможет выявить режимы сбоя, наиболее значимые для людей, которые их испытывают.

Сигналы для наблюдения

Состав делегаций на крупных форумах по управлению ИИ — не номинальное представительство, а содержательное участие в процессах разработки. Если делегации Глобального Юга последовательно оказываются в положении одобряющих фреймворки, а не формирующих их, структурный дисбаланс углубляется независимо от языка инклюзивности в официальных документах.

Включают ли крупные регуляторные фреймворки по ИИ положения, специально спроектированные для контекстов с ограниченной регуляторной инфраструктурой, — или они просто экспортируют требования соответствия, предполагающие институциональный потенциал, которым большая часть мира не обладает. Требования оценки соответствия в Законе ЕС об ИИ, например, предполагают существование экосистем технического аудита, которых пока нет в большинстве стран, которым предстоит соблюдать этот закон.

Появление — или отсутствие — коалиций по управлению ИИ типа «Юг — Юг». Континентальная стратегия ИИ Африканского союза, фреймворк управления ИИ АСЕАН и схожие региональные инициативы представляют собой ранние индикаторы [10]. Перерастут ли они в содержательную управленческую архитектуру или останутся декларативными документами — это покажет, ищут ли страны вне нынешних центров голос или принимают существующую архитектуру как данность.

Вопросы, которые остаются открытыми

В 1990-х Узбекистан сопротивлялся навязываемым ему реформенным фреймворкам — не всегда успешно, не без реальных издержек, но с ясностью в отношении того, что требовалось и кто требовал. Правительство понимало, что бы ни думать о его методах, что принятие правил в том виде, в каком они написаны, означало принятие заложенной в них структуры власти. Принятие этих условий — быстрой приватизации, реструктуризации сельского хозяйства, либерализации цен — произвело бы предсказуемые и тяжёлые последствия: массовую безработицу по мере роспуска колхозов без альтернативных структур занятости, инфляцию цен на продовольствие у населения, уже зависимого от государственных субсидий, нестабильность валюты и тот тип социально-экономической дестабилизации, который превратил часть постсоветского пространства в картины бедности и социального коллапса в течение десятилетия. Я был достаточно близок к механике системы аграрного финансирования, чтобы понимать: это не было теоретическим риском. Это была предсказуемая траектория.

Я не утверждаю, что сопротивление — всегда правильный ответ. Я наблюдаю, что предварительным условием любого содержательного участия в управлении является ясность в отношении того, чьи правила принимаются и кому они выгодны. Нынешняя дискуссия об управлении ИИ по большей части не задаёт этот вопрос с достаточной прямотой.

Стол существует. Фреймворки пишутся. Вопрос не в том, будут ли установлены правила — они будут установлены, — а в том, достигнет ли процесс, их производящий, той представительной широты, которая придаёт управлению легитимность.

Если правила управления ИИ пишутся без содержательного участия подавляющего большинства человечества — миллиардов людей, которым предстоит жить с их последствиями, но которые не приложили руку к их составлению, — то чем именно управляют?

А если ответ — не интересами этих людей, — то на каком основании это управление претендует на легитимность?

Источники и примечания

[1] Европейский парламент. Regulation (EU) 2024/1689 — Artificial Intelligence Act. Официальный журнал Европейского союза, 12 июля 2024 г. eur-lex.europa.eu

[2] Национальный институт стандартов и технологий США (NIST). Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1. Министерство торговли США, январь 2023 г. nist.gov

[3] G7 Hiroshima AI Process. International Guiding Principles for Advanced AI Systems and Code of Conduct for Advanced AI Systems. 30 октября 2023 г. g7hiroshima.go.jp

[4] Bletchley Declaration on AI Safety, 1 ноября 2023 г. (28 стран); Seoul Ministerial Statement for Advancing AI Safety, 21 мая 2024 г. Министерство науки, инноваций и технологий Великобритании. gov.uk

[5] ЮНЕСКО. Recommendation on the Ethics of Artificial Intelligence. Принята Генеральной конференцией на 41-й сессии 23 ноября 2021 г. 193 государства-члена. unesdoc.unesco.org

[6] Международное энергетическое агентство (IEA). Energy Technology Perspectives 2023 и сопутствующий анализ критически важных минералов. ДРК поставляет приблизительно 70% мирового производства кобальта; Китай — приблизительно 60% редкоземельных элементов; Индонезия — приблизительно 40% никеля; Австралия и Чили — среди ведущих юрисдикций по добыче лития. iea.org

[7] Perrigo, Billy. «Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic.» TIME, 18 января 2023 г. time.com. См. также: Gray, Mary L. and Siddharth Suri. Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. Houghton Mifflin Harcourt, 2019.

[8] Stanford HAI. AI Index Report 2024. Stanford University, 2024. Глава о географической концентрации исследований и разработок передового ИИ. aiindex.stanford.edu

[9] Prashad, Vijay. The Darker Nations: A People’s History of the Third World. New Press, 2007. О структурных условиях, породивших Движение неприсоединения и управленческую архитектуру, которой оно противостояло.

[10] Африканский союз. Continental Artificial Intelligence Strategy. AU, 2024. au.int; АСЕАН. ASEAN Guide on AI Governance and Ethics. ASEAN, 2024. asean.org

[11] International AI Safety Report 2026. The International AI Safety Report: An Independent Scientific Assessment. Январь 2026 г. Текущие тренировочные прогоны передового ИИ уже стоят приблизительно 500 миллионов долларов в одних только вычислительных ресурсах; системам следующего поколения, по прогнозам, потребуется 1–10 миллиардов долларов. internationalaisafetyreport.org

Ойбек Ходжаев: аналитик системной трансформации, основатель и генеральный директор INVEXI LLC. Бывший заместитель хокима (вице-губернатор) Самаркандской области. Ранее — директор казначейства и заместитель председателя правления АО «УзАгроПромБанк». Более тридцати лет опыта в экономике, банковском деле, финансах и бизнесе в Узбекистане и странах СНГ.

Published March 10, 2026 на https://okhodjaev.com/essays/the-colonial-pattern-ru/

Substack · X.com · LinkedIn

Published: