Передача агентности: что происходит, когда решения, прежде принимавшиеся людьми, начинают принимать машины

🇬🇧 The Agency Transfer: What Happens When Machines Make Decisions Humans Used to Make · ← На главную

Contents

Если бы всю историю Земли — 4,54 миллиарда лет, подтверждённых радиометрическим датированием с точностью до одного процента, — сжать до продолжительности жизни столетнего человека, анатомически современные люди появились бы примерно за полтора дня до его смерти. Всё, что мы называем цивилизацией — земледелие, письменность, города, империи, индустриальные экономики, — заняло бы последние два часа.

Промышленная революция началась бы три минуты назад.

Искусственный интеллект как научная дисциплина — от Дартмутской конференции 1956 года до настоящего времени — существовал бы меньше минуты.

А технология, которой мы сейчас передаём значимые решения — фронтирные ИИ-системы, развёрнутые в масштабе с 2022 года, — появилась бы примерно две секунды назад.

За эти две секунды мы начали делегировать решения, на освоение которых институциональной эволюции потребовалось двести тысяч лет.

В геологическом масштабе передача выглядит мгновенной. Изнутри институтов она выглядит как последовательность мелких удобств, ни одно из которых никто не переживает как капитуляцию агентности. Я знаю, как выглядит эта последовательность, — не из прочитанного, а из наблюдения за тем, как она происходила внутри банковской системы, где я провёл десятилетие.

В конце 1990-х в УзАгроПромБанке в Ташкенте я руководил казначейскими операциями, которые ещё в значительной части велись вручную. Остатки на корреспондентских счетах отслеживали специалисты, державшие логику платёжной системы в голове. Когда появились первые автоматизированные системы управления казначейством, эти специалисты адаптировались — медленно, неравномерно, а затем, в течение нескольких лет, их не стало. Не уволили. Вышли на пенсию, перевелись или просто оказались больше не нужны. Система работала сама. И к тому моменту, когда кому-то могло бы понадобиться вернуться к ручным операциям — при сбоях системы, в переходные периоды, в кризисы, — людей, знавших как, уже не было. Институциональная память не была удалена. Она атрофировалась.

Этот процесс происходит прямо сейчас, в моей стране, в реальном времени. В декабре 2025 года Узбекистан запустил систему электронных рецептов DMED в Ташкенте и пятнадцати пилотных регионах [1]. Бумажные рецепты постепенно выводятся из обращения. Врачи больше не выписывают рецепты от руки — система генерирует их сама, контролирует дозировки, блокирует дублирующие назначения, ограничивает число одновременно принимаемых препаратов. Если внедрение пойдёт по плану, институциональная способность управлять бумажным распределением фармацевтических препаратов начнёт заметно эродировать в течение двенадцати месяцев — не через запрет, а через неиспользование. Фармацевты, понимавшие старую систему, вероятно, переучатся. Бланки, вероятно, будут списаны. Знание о том, как работать без системы, рискует тихо исчезнуть.

Тезис: передача агентности — миграция значимых решений от человеческого суждения к автоматизированным системам — не бинарное событие. Это градиент. И на этом градиенте есть порог, за которым откат становится операционно неосуществимым на значимых временных горизонтах. Не потому, что технологию нельзя отключить. А потому, что человеческой способности, которую она заменила, позволили деградировать.

Аргумент не в том, что автоматизация по своей природе вредна или что ручные системы были лучше. Он в том, что институты, автоматизирующие процессы без сохранения компетенции для отката, часто принимают удобство за устойчивость — и разница становится видна только в условиях, когда обнаружить её дороже всего.

I. Градиент

Передача агентности разворачивается на обманчиво плавном спектре. На одном конце автоматизированные системы предоставляют информацию, которую люди используют для принятия решений. На другом — автоматизированные системы сами принимают решения, о которых людей информируют — или не информируют вовсе. Движение между этими точками редко объявляется. Оно происходит через удобство, эффективность и конкурентное давление — те же силы, что движут внедрением любой институциональной технологии.

Классическая литература по автоматизации зафиксировала эту динамику десятилетия назад. Основополагающая работа Бейнбридж об «иронии автоматизации» показала, что автоматизация часто оставляет людей ответственными именно за нештатные ситуации, к работе с которыми они подготовлены меньше всего, — потому что рутинные операции, в которых навык поддерживается за счёт повторения, автоматизируются первыми [2]. Парасураман, Шеридан и Уикенс формализовали этот спектр в модель типов и уровней автоматизации, показав, что каждый прирост автоматизированных полномочий соответствует измеримому изменению в поддержании человеческого навыка [3]. Эмпирические данные согласованы: по мере роста уровня автоматизации способность к вмешательству у человека снижается — не потому, что операторы становятся менее компетентными, а потому, что неиспользуемая способность изнашивается.

Этот паттерн виден в каждой области, где была внедрена автоматизация. В авиации системы управления полётом прошли путь от навигационных средств к автопилоту, затем к автоматизированной посадке и всё больше — к системам, управляющим бóльшей частью лётного диапазона, чем пилоты вручную [4]. Пилоты, полагающиеся на автоматизированные системы при рутинных операциях, демонстрируют измеримо ухудшенные навыки ручного пилотирования — не потому, что они менее способны, а потому, что навыки не тренировались. На финансовых рынках алгоритмическая торговля прошла путь от поддержки исполнения к автономному принятию решений на скоростях, недостижимых ни для одного человека-трейдера [5]. В каждом случае передача была постепенной, рациональной на каждом шаге и труднообратимой после закрепления.

Опасность градиента не в каком-то отдельном шаге. Она в кумулятивном эффекте: на каждом этапе человеческая компетенция, необходимая для предыдущего этапа, деградирует от неиспользования. Навыки ручной навигации деградируют, когда доступен GPS. Устный счёт деградирует, когда калькуляторы становятся нормой. Институциональное суждение деградирует, когда алгоритмические рекомендации быстрее, дешевле и легче обосновываются, чем человеческое размышление. Литература по автоматизации называет это «самоуспокоенностью, вызванной автоматизацией» (automation-induced complacency) [8]. Я бы добавил, что в институциональном масштабе это не самоуспокоенность. Это структурный процесс: системы найма, обучения и поощрения организации адаптируются к автоматизированной реальности, и старые компетенции просто перестают воспроизводиться.

II. Механизм атрофии

Необратимость передачи агентности — не техническая. Она институциональная и когнитивная. Это различие важно, потому что оно систематически неверно понимается в нынешних дискуссиях об управлении, которые почти исключительно сосредоточены на технической обратимости — можно ли отключить систему, — а не на институциональной обратимости — можно ли восстановить человеческую способность работать без неё.

Следует различать три измерения обратимости. Техническая обратимость — это вопрос, можно ли отключить или приостановить систему. Институциональная обратимость — может ли организация по-прежнему выполнять функцию без неё. Когнитивная обратимость — сохраняют ли отдельные люди навыки и суждение, которые система вытеснила. Нынешние рамки управления адресуют первое измерение. Именно во втором и третьем закрывается окно коррекции.

Институциональная память хранится не в базах данных. Она хранится в людях — в их суждении, их распознавании паттернов, их неявном знании о том, как системы на самом деле ведут себя в условиях стресса. Когда эти люди перестают практиковаться, память угасает. Когда они выходят на пенсию или уходят, она исчезает. Ни одна документация не фиксирует то, что опытный казначейский специалист знал о чтении платёжной системы на предмет признаков стресса. Ни одна инструкция не воспроизводит суждение фармацевта о том, какие рецепты требовали повторной проверки. Эти компетенции существовали в практике, а не в процедуре. Когда практика прекратилась, компетенция испарилась.

Реформа узбекистанской системы корреспондентских счетов 2003 года — которую я описал в Эссе 7 — даёт точную иллюстрацию. До централизации каждый филиал банка управлял собственной ликвидностью. Специалисты, понимавшие неформальную логику децентрализованной системы, были незаменимы. После централизации эта неформальная логика утратила значение. В течение двух лет специалисты ушли. К тому моменту, когда кому-то могло понадобиться воссоздать старую систему, знание о том, как она на самом деле работала — не как она была задокументирована, а как функционировала на практике, — уже исчезло [6].

Иногда предполагается, что утраченные компетенции можно намеренно восстановить через периодические «откатные тренировки» или обязательные требования к ручной квалификации — как это сделано в авиации для пилотов. Однако такие меры предполагают и институциональную волю, и операционный запас прочности, которыми большинство внедряющих институтов — особенно в условиях ограниченных ресурсов или зависимых обстоятельств — не располагают. Та самая эффективность, которая движет внедрением, одновременно устраняет запас, необходимый для поддержания параллельной человеческой способности. Проверки ручной квалификации в авиации и учения по «холодному пуску» (black start) в энергетике — примитивные формы этой логики, и даже они испытывают давление по мере углубления автоматизации. В большинстве других областей эквивалента не существует.

Система DMED в Узбекистане может дать сжатую иллюстрацию того же механизма. Если внедрение пойдёт по плану, фармацевты, понимающие, как работала бумажная верификация рецептов — способные прочитать рукописный рецепт, сопоставить его со своим знанием истории пациента, применить профессиональное суждение о взаимодействии препаратов, — будут постепенно заменены операторами, подтверждающими то, что показывает система. В пределах одного поколения практикующих специалистов этот набор навыков рискует атрофироваться так, что откат на операционных временных горизонтах окажется затруднён. Не через какой-либо акт разрушения. Через тихую механику неиспользования.

Урок не в том, что бумажные системы были лучше. Он в том, что способность к откату не сохраняется по умолчанию. Она сохраняется, только если институты намеренно её поддерживают, — а стоимость такого поддержания растёт прямо пропорционально тому, насколько хорошо работает автоматизированная система.

III. Ускорение

Предыдущие передачи агентности — калькуляторы, GPS, автопилот, алгоритмическая торговля — были специфичны для своей области. Каждая передавала полномочия по принятию решений в рамках ограниченного операционного контекста. Система GPS не принимает медицинских решений. Автопилот не управляет финансовыми портфелями. Передача сдерживалась специфичностью технологии.

Фронтирные ИИ-системы носят общий характер. Как охарактеризовано в литературе о фундаментальных моделях [7], они передают агентность одновременно по множеству областей — составление юридических документов, формирование медицинских заключений, подготовка аналитики, написание кода, выработка закупочных рекомендаций, — стирая традиционную границу между поддержкой решения и самим решением. Один и тот же интерфейс модели одновременно входит в закупки, юридическое составление документов, подготовку политических меморандумов, программирование, коммуникации и медицинскую сортировку. Эта широта качественно отличается от любой предыдущей технологии автоматизации, потому что вызываемая ею атрофия не ограничена одной профессиональной областью. Она действует сразу по всему диапазону институциональных функций. В отличие от предыдущих, специфичных для области технологий, фронтирный ИИ одновременно ослабляет человеческое суждение в юридической, медицинской, политической, технической и административной областях внутри одной и той же организации — создавая системную институциональную хрупкость, а не локализованную утрату навыка.

Скорость столь же беспрецедентна. Промышленная революция передавала агентность от ремесленников к машинам на протяжении примерно столетия. Цифровая революция передавала агентность от ручного учёта к автоматизированным системам на протяжении примерно трёх десятилетий. Фронтирные ИИ-системы передают агентность от человеческого суждения к автоматизированному результату на горизонтах, измеряемых месяцами. Система DMED в Узбекистане должна завершить общенациональное внедрение в течение двенадцати месяцев с момента запуска пилота. В подобных случаях институциональная способность работать без системы может деградировать раньше, чем кто-либо формально решит, была ли передача желательной.

Эпизод Anthropic — Пентагон, задокументированный в Эссе 6, иллюстрирует, насколько быстро может возникнуть асимметрия переговорных позиций, как только закупки, проектирование миссий и ограничения безопасности оказываются привязаны к одному поставщику модели [9]. Когда операционная зависимость складывается в пределах одного закупочного цикла, вопрос обратимости становится не теоретическим, а институциональным — и ответ зависит от того, сохранила ли принимающая организация способность работать без системы, на которую она стала полагаться.

В этом ключевая асимметрия: решение о внедрении — быстрое, заметное и осознанное. Утрата способности откатить его назад — медленная, незаметная и стихийная. Никто не решает утратить способность работать вручную. Это просто происходит — через практики найма, которые больше не ценят старые навыки, через программы обучения, которые больше им не учат, через институциональные процессы, которые в них больше не нуждаются.

IV. Асимметрия

Передача агентности распределяется неравномерно. Те, кто разрабатывает ИИ-системы, сохраняют возможность их модифицировать, переобучить или отозвать. Те, кто эти системы внедряет — правительства, институты, население зависимых юрисдикций, — поглощают передачу, не сохраняя сопоставимой способности к развороту. У разработчика есть выключатель, которого нет у пользователя.

На языке институционального риска: это зависимость от поставщика со стоимостью выхода, растущей со временем, переносимостью, снижающейся с глубиной интеграции, и резервными правами, которые существуют формально, но эродируют операционно. Разработчик сохраняет контроль над моделью, полномочие на обновления и возможность отозвать сервис. Издержки переключения у внедрившей стороны накапливаются с каждым месяцем интеграции, а обученная человеческая способность, которая могла бы служить резервом, эродирует прямо пропорционально глубине зависимости. Это не метафора. Это институциональная экономика привязки к поставщику (lock-in) — усиленная когнитивным измерением, которое модели закупки программного обеспечения не улавливают, — и точный механизм, посредством которого суверенитет передаётся без формального завоевания.

Это колониальный паттерн, описанный в Эссе 5, действующий через другой механизм: не через правила, навязанные извне, а через возможности, поглощённые извне. Когда правительство внедряет систему на основе ИИ для государственного управления, здравоохранения или безопасности, институциональная компетенция выполнять эти функции без системы начинает угасать с момента внедрения. Если поставщик отзывает систему — по коммерческому решению, под геополитическим давлением или в результате суверенного преодоления, которое задокументировало Эссе 6, — внедрившая институт сталкивается с разрывом, который невозможно заполнить на значимых временных горизонтах.

Группы населения, у которых меньше всего голоса в передаче, оказываются наиболее подвержены её последствиям. Фермеры Ферганской долины, чей сельскохозяйственный кредит всё больше будет оцениваться автоматизированными системами, не участвовали в проектировании этих систем. Пациенты в Самарканде, чьи рецепты теперь формирует DMED, не были опрошены об архитектуре системы. Это не потому, что кто-то намеренно хотел их исключить. Это потому, что передача агентности, как и любой системный процесс, рассмотренный в этой серии, действует через структурную динамику, для производства исключения не требующую намерения.

Выводы

Первое: передача агентности — это механизм, через который закрывается окно коррекции, описанное в Эссе 7. Это не единственный механизм, но самый устойчивый: как только человеческая способность выполнять функцию атрофировалась, её восстановление требует не просто отмены технического решения, а воссоздания институциональной компетенции, на формирование которой могли уйти десятилетия. Окно коррекции не просто сужается. Оно меняет категорию: из обратимой проблемы конфигурации — в утрату институциональной способности.

Второе: организации, наиболее способные обнаружить опасные уровни передачи агентности, — это те, у кого есть прямая операционная экспозиция: страховщики, оценивающие риск системной зависимости, специалисты по закупкам, управляющие привязкой к поставщику, военные планировщики, проводящие оценку непрерывности операций. У этих акторов есть институциональные стимулы измерять то, чего не измеряют рамки управления, — реальную глубину зависимости, а не заявленный уровень человеческого надзора.

Третье: ведущие рамки управления ИИ, рассмотренные автором, пока не относят оценку передачи агентности к обязательным критериям. Закон ЕС об ИИ (AI Act) затрагивает классификацию рисков, прозрачность и требования к человеческому надзору — но не структурную эрозию институциональной способности этот надзор осуществлять с течением времени [10]. Требования «человек в контуре» (human-in-the-loop) предполагают, что человек сохраняет компетенцию для вмешательства. Передача агентности подтачивает именно это допущение.

Четвёртое: в практическом плане рамкам управления нужен операционный инструмент. Аудит передачи агентности должен задавать три вопроса: какие решения мигрировали в автоматизированные системы; какие человеческие компетенции уже достаточно долго остаются без практики, чтобы деградировать; и во сколько обойдётся — во времени, персонале, обучении и допустимости ошибок — вернуться к ручной работе в течение следующего квартала. До тех пор пока ни один институт не обязан отвечать на эти вопросы, передача агентности будет продолжать закрываться бесшумно: решения о внедрении явные, а атрофия — стихийная.

Сигналы для наблюдения

Проведёт ли какой-либо крупный институт — правительство, военное ведомство, финансовый регулятор — формальный аудит передачи агентности: систематическую оценку того, какие решения мигрировали в автоматизированные системы, какие человеческие компетенции в результате деградировали и во что обойдётся институциональный откат при текущем уровне зависимости. Отсутствие таких аудитов по мере ускорения интеграции ИИ — само по себе сигнал.

Будут ли в какой-либо области критической инфраструктуры введены обязательные откатные тренировки — периодические операции без использования ИИ-систем для поддержания человеческой компетенции. Авиация давно поддерживает требования к ручной лётной квалификации. У финансов, здравоохранения и государственного управления эквивалента для операций, зависимых от ИИ, не существует.

Начнёт ли страхование ответственности за ИИ оценивать глубину передачи агентности — различая организации, сохраняющие подтверждённую способность к развороту, и те, что стали операционно зависимы, не сохранив альтернатив. Когда страховщики оценят эту разницу, рынок признает то, чего пока не признало управление.

Вопросы, которые остаются открытыми

В каждой области, где я работал, — банковском деле, государственном управлении, антикризисном менеджменте — самое опасное состояние не отсутствие системы. Это убеждённость, что система присутствует, тогда как стоящая за ней способность тихо исчезла. Отчёты по-прежнему поступают. Дашборды по-прежнему отображаются. Архитектура управления по-прежнему выглядит целостной. Но человеческое суждение, которое должно было быть последним рубежом обороны, атрофировалось за годы неиспользования — и никто этого не заметил, потому что система работала.

Вопрос не в том, принимает ли ИИ лучшие решения, чем люди, в конкретных областях. Во многих случаях это доказуемо так. Вопрос в том, что происходит, когда системы, от которых мы стали зависимы, отказывают — из-за технического сбоя, враждебной атаки, отзыва поставщиком или того рода суверенного преодоления, которое задокументировало Эссе 6, — а люди, которые должны вступить в дело, больше не обладают для этого компетенцией.

Каков институциональный эквивалент «выключателя мёртвого человека» (dead man’s switch) — механизма, который обеспечивал бы полномочия по принудительной остановке, независимую верификацию с доступом и реальные последствия за искажение данных, определённые в Эссе 7, — после того как человеческая агентность уже атрофировалась за годы неиспользования?

Насколько известно автору, ни одна крупная рамка управления сегодня не операционализирует такой механизм как обязательное требование. Вопрос в том, будет ли это упущение исправлено до того, как зависимость закрепится в качестве институционального факта, — и до того, как способность, которую он должен был защищать, уже исчезнет.

Мой отец — сегодня профессор и академик Самаркандского института экономики и статистики — продолжает работать. Он застал конец одной системы. Он наблюдает начало другой.

Источники и примечания

[1] Правительство Узбекистана. Система электронных рецептов (DMED) запущена в декабре 2025 года в Ташкенте и пятнадцати пилотных регионах. Источники: Gazeta.uz, 13 декабря 2025 г.; Kun.uz, 24 сентября 2025 г. (со ссылкой на постановление Кабинета министров). Полный общенациональный запуск запланирован к концу 2026 года.

[2] Bainbridge, Lisanne. «Ironies of Automation». Automatica, Vol. 19, No. 6, 1983. Основополагающий анализ того, как автоматизация устраняет условия, при которых операторы поддерживают навыки, необходимые для вмешательства в случае сбоя автоматизации. sciencedirect.com

[3] Parasuraman, R., Sheridan, T.B., Wickens, C.D. «A Model for Types and Levels of Human Interaction with Automation». IEEE Transactions on Systems, Man, and Cybernetics, Vol. 30, No. 3, 2000. ieee.org

[4] Ebbatson, M. и др. «The Loss of Manual Flying Skills in Pilots of Highly Automated Airliners». International Journal of Aviation Psychology, 2010. См. также: Федеральное управление гражданской авиации США (FAA). «Operational Use of Flight Path Management Systems: Final Report». FAA, 2013. faa.gov

[5] Kirilenko, A. и др. «The Flash Crash: High-Frequency Trading in an Electronic Market». Journal of Finance, 2017. См. также: совместный отчёт Комиссии по ценным бумагам и биржам США (SEC) и CFTC. «Findings Regarding the Market Events of May 6, 2010». sec.gov

[6] Центральный банк Узбекистана. Централизация инфраструктуры корреспондентских счетов, завершена осенью 2003 года. Личный профессиональный опыт автора в этой сфере (УзАгроПромБанк, 1990-е — 2001 год). См. также Эссе 2 и Эссе 7 этой серии. cbu.uz

[7] Bommasani, R. и др. On the Opportunities and Risks of Foundation Models. Stanford CRFM, 2021. arxiv.org

[8] Parasuraman, R., Manzey, D. «Complacency and Bias in Human Use of Automation». Human Factors, 2010. Основополагающее исследование деградации навыков и эффектов самоуспокоенности, вызванных автоматизацией.

[9] Reuters. «Anthropic sues to block Pentagon blacklisting over AI use restrictions». 9 марта 2026 г. reuters.com. См. также Эссе 6 этой серии: okhodjaev.com/essays/the-pattern-closes-ru/

[10] Европейский парламент. Regulation (EU) 2024/1689 — Artificial Intelligence Act. Официальный журнал Европейского союза, 12 июля 2024 г. Статья 14 о требованиях к человеческому надзору. eur-lex.europa.eu

[11] Carr, N. The Glass Cage: Automation and Us. W.W. Norton, 2014. Глава 3 о парадоксе автоматизации: чем лучше работает автоматизированная система, тем критичнее — и тем более деградирован — человеческий вклад в момент её отказа.

[12] International AI Safety Report 2025. The International Scientific Report on the Safety of Advanced AI. Май 2025 г. internationalaisafetyreport.org

Ойбек Ходжаев — аналитик системной трансформации, основатель и генеральный директор INVEXI LLC. Бывший заместитель хокима (вице-губернатор) Самаркандской области. Ранее — директор казначейства и заместитель председателя правления АО «УзАгроПромБанк». Более тридцати лет опыта в экономике, банковском деле, финансах и бизнесе в Узбекистане и странах СНГ.

Published April 06, 2026 на https://okhodjaev.com/essays/the-agency-transfer-ru/

Substack · X.com · LinkedIn

Published: