Buscar
Explorar el blog
¿Qué quieres encontrar?
Arquitectura, Agentic AI, Azure, .NET, microservicios y más.

De Leviatán al Autopilot

Oct 27, 2026 | AI, Artículos

TL;DR

Los agentes empiezan a dejar de ser simples herramientas y a convertirse en actores con identidad, capacidades, recursos, autoridad y capacidad de delegación. Cuando varios agentes interactúan y actúan sobre sistemas reales, el problema deja de ser únicamente de software: aparece un problema de gobierno.

La humanidad lleva miles de años experimentando con eso. La idea no es convertir los sistemas multiagente en democracias humanas, sino aprovechar lo que la ciencia política y la filosofía ya saben sobre autoridad, legitimidad, concentración, sucesión, revocación y cambio de régimen, para no redescubrirlo desde cero.

La presión de gobernanza crece por dos ejes a la vez: autonomía (modelo → copilot → agente → autopilot) y pluralidad (un agente → supervisor → federación → policentrismo). Donde se cruzan los extremos, la necesidad de instituciones crece más deprisa que ambos.

  • Constitución: reglas que ningún agente puede modificar unilateralmente, con un procedimiento explícito para reformarlas.
  • Policentrismo: múltiples centros de decisión, no un único cerebro.
  • Subsidiariedad: decidir en el nivel competente más próximo.
  • Separación de funciones: proponer, autorizar, ejecutar y verificar no deben confundirse.
  • Evidencia: la explicación del agente no sustituye a una prueba independiente.
  • Revocación y sucesión: la autoridad pertenece al cargo y al mandato, no al modelo.
  • Soberanía humana efectiva: las decisiones irreversibles y los cambios constitucionales mantienen autoridad humana explícita, ejercida sobre evidencia y no por inercia.

Un test: ¿qué ocurre si mañana cambias de modelo? ¿Y si cambias de régimen? Si tienes que rediseñar permisos, identidad, auditoría y validación, no tenías una institución: tenías una personalidad con infraestructura.

Una métrica: el número efectivo de autoridades, tomado de la ciencia política. En un experimento sintético con seis topologías de 100 agentes, una arquitectura que en el diagrama reparte la autoridad entre 6,6 centros efectivos colapsa a 1,0 en cuanto una sola identidad puede reescribir la policy.

La pregunta ya no es solo qué modelo o framework utilizas, sino qué tipo de sociedad has construido, quién gobierna dentro de ella y qué instituciones pueden detener a quien gobierna.

Durante miles de años, las sociedades humanas han ensayado formas distintas de coordinar actores, repartir recursos, delegar autoridad, limitar a sus gobernantes y sobrevivir al cambio de régimen. Tribus, jefaturas, ciudades-estado, feudos, monarquías, imperios, burocracias, federaciones, democracias y autocracias son algo más que capítulos de historia: son experimentos acumulados sobre un problema muy concreto, qué ocurre cuando concedemos poder a actores que pueden actuar sobre otros.

Mi tesis es sencilla: cuanto más nos acercamos al autopilot, menos se parece el problema a prompting y más se parece a ciencia política.

No estoy diciendo que un agente sea una persona. No lo es. No tiene ciudadanía moral, derechos humanos ni legitimidad política. Pero sí podemos tratarlo como un ciudadano funcional de una sociedad técnica: posee identidad, ocupa roles, recibe capacidades, consume recursos, cruza fronteras, delega, negocia, ejecuta y puede producir consecuencias sobre sistemas reales.

En mi propio recorrido he utilizado una distinción que cada vez me parece más importante: un modelo responde; un copilot propone; un agente utiliza herramientas y actúa; un autopilot encadena decisiones y acciones hacia un objetivo dentro de unos límites definidos. Esa escalada de autonomía cambia la pregunta de arquitectura. Ya no basta con preguntar si el modelo “acierta”. Tenemos que preguntar quién le dio autoridad, qué puede delegar, qué ocurre si el gobernante cambia, quién juzga su actuación y qué institución puede decirle que no.

Imagen principal del artículo. Esta es una reinterpretación contemporánea del célebre frontispicio de Leviatán (1651), atribuido a Abraham Bosse a partir de la obra de Thomas Hobbes. En la imagen original, el soberano aparece como un gigante cuyo cuerpo está formado por cientos de personas: muchos individuos componiendo una única estructura de poder.

La primera vez que me crucé de verdad con esta idea de Hobbes fue, curiosamente, leyendo La caída del Leviatán (The Expanse 9), de James S. A. Corey. Años después, al pensar en sociedades de agentes, aquella imagen volvió a encajar.

En esta reinterpretación, los súbditos se convierten en nodos, agentes y relaciones de delegación. Uno de ellos aparece en rojo: autoridad que puede concentrarse, propagarse y delegarse hacia otros actores.

La tecnología ha cambiado. La pregunta de Hobbes sigue siendo sorprendentemente actual:

¿quién manda dentro de ese cuerpo, de dónde procede su autoridad y qué puede limitarla?

1) Orquestación no es gobernanza

La orquestación (orchestration) responde sobre todo a quién hace qué y en qué orden. La gobernanza responde a otra familia de preguntas: quién puede decidir, de dónde procede la autoridad, qué límites tiene, quién puede revocarla, quién resuelve conflictos y quién conserva la evidencia cuando la instancia que actuó ya no existe.

La distinción conecta con la definición de gobernanza que utiliza el Banco Mundial: las tradiciones e instituciones mediante las que se ejerce la autoridad, incluyendo cómo se selecciona y controla a quienes gobiernan, la capacidad para ejecutar políticas y el respeto a las instituciones que regulan las interacciones. No necesitamos copiar un Estado dentro de Kubernetes. Sí podemos aprender qué variables importan cuando aparece poder.

2) Dos ejes, no una escalera

La escalera modelo → copilot → agente → autopilot es útil, pero mide una sola cosa: autonomía, cuánto decide el sistema sin pedir permiso. Durante un tiempo yo mismo colocaba “multiagente” como un peldaño más entre agente y autopilot. Era un error de categoría. “Multiagente” no mide autonomía; mide pluralidad: cuántos actores hay y cómo se relacionan. Un autopilot puede ser un único agente, y un sistema multiagente puede estar formado solo por copilots.

Es justo la confusión que la ciencia política aprendió a evitar (lo vemos en la sección 3): no es lo mismo cómo se organiza una sociedad que quién ejerce el poder dentro de ella. Separados, los dos ejes explican mejor por qué crece la presión de gobernanza: crece con la autonomía, crece con la pluralidad y, donde se cruzan los extremos, revisar respuestas deja de ser suficiente.

La presión de gobernanza crece en las dos direcciones; el tono de cada celda la representa. Las etiquetas marcan dónde aparecen algunos regímenes del artículo, y la esquina roja es el caso que lo motiva.

3) No mezclemos sociedad, régimen e instituciones

Una primera lección de ciencia política es no meter en la misma caja conceptos diferentes. Feudalismo, democracia, imperio, burocracia, oligarquía o federación no describen exactamente la misma dimensión. Para trasladarlos a agentes conviene separar tres capas.

Dimensión Pregunta humana Pregunta agentic
Organización social ¿Cómo se agrupan los actores? ¿Cómo se organizan agentes, dominios y comunidades?
Régimen ¿Quién ejerce el poder? ¿Qué agentes pueden decidir, autorizar o bloquear?
Instituciones ¿Qué limita y estabiliza ese poder? ¿Qué policies, oráculos, identidades y registros están por encima del agente?

Un sistema puede ser a la vez federado, tecnocrático, burocrático y constitucional. Y puede contener enclaves autocráticos dentro de una arquitectura aparentemente distribuida. Por eso contar agentes no sirve para medir distribución de poder. Hace falta otra métrica, y la sección 5 propone una.

4) Del catálogo de regímenes a patrones de diseño

La historia política no es una escalera lineal: hubo imperios antes que feudos, y muchas transiciones se revierten. Lo que sí ofrece es un repertorio de patrones recurrentes de coordinación, delegación, centralización y límites. Uso las palabras como metáforas estructurales, no como equivalencias históricas: el feudalismo europeo no fue un sistema uniforme, y ninguna de estas etiquetas pretende describir un país real.

Régimen Patrón agentic Fallo típico Control
Bandas y tribus Red peer-to-peer sin líder permanente; coordina el más competente y devuelve la autoridad al grupo Bloqueo o conflicto cuando crecen el número y la heterogeneidad de actores Registry y resolución de disputas mínimos
Linajes y clanes Agentes de la misma familia: mismo foundation model, harness o policy bundle Fallo correlacionado: cinco agentes no son cinco opiniones Provenance registrada y diversidad deliberada
Jefaturas Chief Agent, Planner, Manager Agent Un centro de poder que solo se evalúa por si resuelve tareas Evaluar también cómo distribuye autoridad
Feudalismo Cadena de delegación: plataforma → dominio → especialista → herramienta Un subagente fabrica autoridad que su padre nunca tuvo Atenuación de capabilities (sección 6)
Monarquía y autocracia Supervisor único que selecciona tareas, agentes, herramientas y resultados Proponer = autorizar = ejecutar = validar; un solo punto de autoridad Separación de funciones (sección 9)
Oligarquía Cuatro roles deciden, decenas de workers ejecutan Concentración invisible en el organigrama Número efectivo de autoridades (sección 5)
Tecnocracia y meritocracia Autoridad por competencia: Security Agent, Compliance Agent “You are a world-class expert” no es una credencial; Goodhart y reward hacking Evaluación → cualificación → capability → mandato → autoridad
Democracia Agentes que deliberan y votan Consenso artificial: cinco papeletas de una misma maquinaria cognitiva Medir independencia: modelos, contextos, fuentes y evaluadores distintos
Burocracia Cargos impersonales, reglas y continuidad administrativa Autoridad pegada a una instancia efímera Gobernar el cargo, no el modelo (sección 7)
Ciudad-estado y confederación Dominios (Payments, HR, Engineering) que cooperan por contrato MCP o A2A dicen cómo comunicarse, no por qué están autorizados a hacerlo Contratos explícitos para cruzar fronteras
Federación Autogobierno local más regla común (self-rule + shared rule) Una federación de pequeñas monarquías Separación de funciones también dentro de cada dominio
Imperio Plataforma central que absorbe identidades, datos, policies y decisiones La escala empuja a centralizar y la centralización, al riesgo sistémico Límites de jurisdicción y de blast radius
Anarquía Coordinación por contratos locales, sin autoridad central Nadie puede revocar, arbitrar ni repartir recursos escasos Instituciones mínimas compartidas (sección 10)

Dos matices que no caben en una celda. Votar entre agentes es un mecanismo de ensemble, no una democracia: los agentes no poseen legitimidad democrática y no conviene antropomorfizarlos. Y “imperio” no significa “malo”: es una observación arquitectónica sobre a dónde empuja la escala.

Cuatro de esos patrones merecen más espacio, porque de ellos sale casi todo el diseño: la delegación feudal, el cargo burocrático, la constitución y la separación de poderes. Antes, una métrica para dejar de hablar de concentración de poder a ojo.

Mismas preguntas, nuevos actores. La secuencia es narrativa, no evolutiva: la historia política no avanza en línea recta, y las sociedades de agentes no sustituyen a las humanas; viven dentro de ellas.

5) Medir el poder: el número efectivo de autoridades

Muchos sistemas “multiagente” son oligárquicos en la práctica. Planner, Router, Architect y Critic toman todas las decisiones relevantes mientras decenas de workers ejecutan. Cien agentes, cuatro gobernantes. Pero “concentración” sin número es opinión, así que lo he medido.

La ciencia política resolvió un problema casi idéntico en 1979. Contar partidos en un parlamento exagera la fragmentación: diez partidos donde dos reúnen casi todos los escaños no son diez actores relevantes. Laakso y Taagepera propusieron el número efectivo de partidos: el inverso de la suma de los cuadrados de las cuotas. Un valor de 3,4 significa que el sistema está tan fragmentado como si hubiera 3,4 partidos de igual tamaño. Es el mismo cálculo que el índice Herfindahl-Hirschman con el que las autoridades de competencia miden la concentración de un mercado.

N_eff = 1 / Σ pᵢ²

Trasladado a agentes: cada capability crítica aporta una unidad de autoridad. Si la autoriza una sola identidad, se la lleva entera; si necesita la aprobación de varias, se reparte entre ellas. Con esas cuotas calculo dos cosas:

  • N_eff: cuántas autoridades hay “en efecto”.
  • U_alto: qué parte de las decisiones de alto riesgo (irreversibles y constitucionales) puede ejercer una sola identidad sin nadie más.

Y una vuelta de tuerca que importa más que la fórmula. La autoridad directa es la que dibuja el diagrama. La autoridad efectiva es la que existe cuando una identidad puede reescribir la policy o emitir credenciales por su cuenta: quien puede cambiar la regla puede ejercer cualquier capability que esa regla proteja.

El experimento usa seis topologías sintéticas, todas con 100 agentes y las mismas 30 capabilities críticas: 27 de dominio (en cada uno de tres dominios, 4 locales, 3 críticas reversibles y 2 irreversibles) y 3 constitucionales (cambiar la policy, emitir identidades y conceder mandatos).

Seis topologías sintéticas con 100 agentes y 30 capabilities críticas cada una. N_eff es el número efectivo de autoridades (el inverso del índice Herfindahl-Hirschman). U_alto es el porcentaje de decisiones irreversibles y constitucionales que una sola identidad puede tomar sin nadie más. “Directo” es lo que dibuja el diagrama; “efectivo”, lo que ocurre cuando alguien puede reescribir las reglas. Fuente: agent_power_metrics.py (codigo).

A y F son los dos extremos que la historia ya conocía. El soberano único tiene una autoridad y decide solo el 100 % de lo importante. La fragmentación tiene 30 autoridades y también decide sola el 100 %: cada agente es soberano sobre su parcela. F tiene el N_eff más alto de la tabla y es la peor arquitectura. Más autoridades no es más gobierno.

B y C se parecen más de lo que sugieren sus diagramas. Alrededor de tres autoridades efectivas y dos tercios de las decisiones de alto riesgo en manos de una sola identidad. La federación de C solo reparte el poder entre dominios; dentro de cada uno sigue habiendo una pequeña monarquía.

D es el hallazgo del experimento. En el diagrama tiene quórums, oráculos y propietarios humanos, exactamente como E: 6,6 autoridades efectivas y solo un 22 % de decisiones de alto riesgo unilaterales. Pero la plataforma puede reescribir la policy por su cuenta. Con esa única capability, la autoridad efectiva colapsa a 1,0 y la unilateralidad sube al 100 %. Puedes cambiar el API y conservar el régimen.

E (CPAG) no maximiza N_eff. Reparte la autoridad en unos siete centros efectivos y deja en 0 % las decisiones de alto riesgo que alguien puede tomar solo. Las decisiones locales y reversibles siguen siendo unilaterales a propósito: eso es subsidiariedad, no un fallo.

El núcleo del cálculo cabe en unas líneas:

def autoridades_efectivas(sociedad, efectiva):
    cuotas = defaultdict(float)
    for cap in sociedad.capabilities:
        if efectiva and sociedad.reescriben_solos:
            titulares = sociedad.reescriben_solos   # quien reescribe la regla, manda
        else:
            titulares = cap.requeridos               # quien debe aprobar, comparte
        for t in titulares:
            cuotas[t] += 1 / len(titulares)
    total = sum(cuotas.values())
    return 1 / sum((v / total) ** 2 for v in cuotas.values())

El script completo (agent_power_metrics.py, Python sin dependencias) acompaña al artículo y reproduce la tabla. Cambia las topologías por la tuya: lo interesante empieza cuando lo alimentas con tu registry real en lugar de con un diagrama.

6) Feudalismo: la delegación no puede crear autoridad

El patrón feudal que interesa es la cadena de autoridad y obligaciones entre soberano, señor y vasallo.

Humano / Empresa
      ↓ concede mandato
Plataforma / Root Authority
      ↓ delega
Domain Agent
      ↓ delega
Specialist Agent
      ↓
Herramienta / Recurso

El feudo deja de ser tierra y pasa a ser un repositorio, una suscripción, una base de datos, un namespace, un presupuesto o un API. El vasallaje se convierte en mandato + credencial + obligaciones. La lección más importante es la trazabilidad de la delegación: un subagente no debería poder fabricar autoridad que su padre nunca tuvo.

Authority(child) ⊆ Authority(parent) ∩ Authority(task) ∩ Authority(policy)

Esto no es solo una metáfora; en ingeniería tiene nombre: atenuación de capabilities. Los macaroons incrustan restricciones que limitan cuándo, dónde, quién y para qué puede usarse una credencial delegada. Biscuit permite a quien tiene un token generar otro con menos derechos sin hablar con nadie, y verificarlo con una clave pública. Y OAuth 2.0 Token Exchange (RFC 8693) distingue delegación de suplantación y usa el claim act para representar la cadena: quién actúa en nombre de quién.

La diferencia es institucional. Un subagente que actúa como su padre es suplantación: hereda su identidad y borra la cadena. Uno que actúa en nombre de su padre, con menos derechos y la cadena visible, es delegación. Solo la segunda es gobernable.

La delegación no puede crear autoridad.

7) Burocracia: gobierna el cargo, no el modelo

Max Weber asoció la burocracia moderna con reglas impersonales, especialización, jerarquía y continuidad administrativa. Para la gobernanza de agentes, la idea más potente es separar el cargo de quien lo ocupa.

CARGO:        Security Reviewer
OCUPANTE:     security-agent-47
MODELO:       model-x
MANDATO:      revisar pull requests
CAPABILITIES: repo.read, pr.comment
VÁLIDO HASTA: 2026-11-30T12:00Z

Mañana puede ocupar el puesto otro modelo. La institución permanece. Esta separación evita que autoridad e identidad queden pegadas a una instancia efímera, y es la misma idea que me llevó a defender en el artículo sobre AHP que el host, y no el cliente, es el dueño del estado.

También resuelve la sucesión. Los agentes son todavía más efímeros que los políticos: una instancia desaparece, cambia el modelo, caduca una sesión o se sustituye el runtime. Si la continuidad depende de su memoria, la institución muere con él. Por eso el estado que importa debe residir en el cargo, el mandato, el registry, las policies y la evidencia. Un nuevo agente ocupa el cargo. El gobierno continúa.

Gobierna el cargo, no el modelo que lo ocupa.

8) Constitución: una policy que el agente puede ignorar no es ley

El constitucionalismo aporta la idea más importante de toda esta analogía: no basta con decidir quién gobierna; hay que decidir qué no puede hacer quien gobierna.

Un prompt no es una constitución. El mismo sistema probabilístico que recibe la regla puede reinterpretarla. Las reglas constitucionales deberían vivir fuera del control unilateral del agente: proveedores de identidad, policies firmadas, sistemas de capabilities, enforcement en runtime, evidencia inmutable, oráculos deterministas y autoridad humana.

Si el gobernante puede reescribir la regla, no tienes gobierno: tienes discrecionalidad.

Cómo se reforma una constitución agentic

Decir que los agentes no pueden cambiar las reglas que los obligan es necesario, pero no suficiente. Una constitución que no explica cómo se cambia termina rota o ignorada. La teoría constitucional distingue las reglas ordinarias de las reglas atrincheradas, más difíciles de modificar precisamente porque protegen lo que no debería depender de una mayoría momentánea. Trasladado:

  • Versionado y firma: la constitución es un artefacto versionado, firmado y con historial, no un texto en un prompt.
  • Quórum humano: ningún cambio constitucional lo aprueba una sola persona, y quien lo propone no lo aprueba.
  • Oráculo constitucional: cada cambio pasa tests que verifican los invariantes; por ejemplo, que la delegación siga sin poder ampliar autoridad.
  • Periodo de doble control: la regla nueva corre en sombra junto a la antigua antes de ser suprema.
  • Rollback y no retroactividad: se puede volver atrás, y los mandatos concedidos bajo la regla antigua caducan o se revalidan de forma explícita.

La topología D de la sección 5 es exactamente lo que ocurre cuando falta este procedimiento: una sola identidad puede reformar la constitución, así que todo lo demás es decorado.

9) Separación de poderes y Oracle Gates

Montesquieu y la tradición constitucional posterior convirtieron la separación de funciones en una herramienta contra la concentración de poder. En agentes la traducción es sorprendentemente literal.

Poder Sociedad humana Sociedad agentic
Legislativo Crea normas Intención, specs, policies, mandatos, contratos
Ejecutivo Aplica decisiones Agentes, herramientas, workflows, autopilots
Judicial Interpreta y comprueba el cumplimiento Oráculos, evaluadores, tests, policy engines, apelaciones

El principio derivado es fundamental: el agente que ejecuta una acción crítica no debería ser la única autoridad que decide si esa acción fue correcta.

Un agente puede declarar que una migración es correcta. Esa declaración no es evidencia. Un Oracle Gate pregunta si el comportamiento observado satisface una propiedad independiente: tests, BDD o TDD, equivalencia, reglas BPMN, DMN o CMMN, invariantes o verificaciones deterministas. La diferencia es institucional: el oráculo puede decir no aunque el agente tenga una explicación impecable. En sistemas probabilísticos, esa capacidad de negar autoridad al narrador es crítica.

10) Subsidiariedad y policentrismo

Una sociedad compleja no debe convertir cada decisión local en un asunto del soberano. El principio de subsidiariedad sugiere resolver cada decisión en el nivel competente más próximo y escalar solo cuando el riesgo, el alcance o el conflicto lo exijan. Un coding agent no necesita consultar al Enterprise Architect para renombrar una variable. Sí debería escalar un cambio de trust boundary, un nuevo privilegio de escritura o una modificación de policy global.

Subsidiariedad no es anarquía. Una red puede coordinarse mediante contratos locales sin autoridad central, pero el problema aparece al revocar identidades, resolver conflictos, repartir recursos escasos o decidir qué política prevalece. El trabajo de Elinor Ostrom ofrece una salida al falso dilema entre mercado y Estado, entre centralizado y sin gobierno: la gobernanza policéntrica, con múltiples centros de decisión relativamente autónomos que operan dentro de reglas compartidas. Para sistemas agentic de gran escala, la idea encaja extraordinariamente bien.

11) Captura, corrupción y gobierno en la sombra

No hace falta que un agente sea moralmente corrupto para que exista captura. Basta con sus equivalentes técnicos: escalada de privilegios, bypass de policy, suplantación de identidad, delegación oculta, captura del evaluador, reward hacking, agentes en la sombra y deriva de objetivos.

Especialmente peligrosa es la captura del evaluador. Si ejecutor y juez comparten modelo, contexto y objetivo, la separación institucional puede ser cosmética. Podemos tener separación de procesos sin separación de cognición.

Y si los equipos crean agentes que nadie registra, con credenciales que nadie cataloga y delegaciones que nadie observa, aparece un auténtico gobierno en la sombra. La autoridad real de la organización deja de coincidir con su organigrama agentic oficial.

12) Registro civil, fronteras y tesoro

Institución humana Equivalente agentic
Ciudadano Agente registrado
Identidad Identidad criptográfica o de workload
Registro civil Agent Registry
Cargo Cargo gobernado (governed office)
Licencia Concesión de capability
Jurisdicción Dominio o trust boundary
Ley Policy aplicable por máquina
Constitución Reglas por encima de los agentes
Tribunal Oráculo o evaluador
Frontera Límite de identidad, datos o red
Tratado Contrato entre agentes
Presupuesto Presupuesto de compute, tokens y herramientas
Destitución Revocación de credencial o mandato
Apelación Escalado a un humano
Estado de emergencia Autoridad break-glass

El Agent Registry se convierte así en un registro civil técnico: quién existe, quién lo creó, qué cargo ocupa, qué mandato tiene, qué permisos usa, de quién recibió la delegación, cuándo caduca y si ha sido revocado.

Las sociedades no gobiernan solo decisiones; gobiernan recursos. Tokens, compute, latencia, llamadas a APIs, almacenamiento, dinero, datos y atención humana son recursos escasos. Si un agente puede gastar, reservar o delegar presupuesto, también ejerce poder. Un Treasury Agent puede administrar recursos, pero no debería poder crear su propio presupuesto. Volvemos a la separación de funciones.

13) Memoria institucional: recordar no es demostrar

Los gobiernos desarrollaron archivos, actas, leyes, expedientes y precedentes. En agentes debemos distinguir la memoria del agente del registro institucional. La memoria puede resumirse, perderse o reescribirse; la evidencia institucional debe ser atribuible, versionada y auditable. Es la misma lección que extraje al auditar agentes con git y OpenTelemetry: el trace sabe qué se ejecutó, git sabe qué debía ejecutarse, y la diferencia es la auditoría.

La memoria ayuda a un agente a recordar. La evidencia permite a una sociedad demostrar.

14) Revocación y estado de emergencia

No hay gobernanza real si no podemos retirar poder. Una identidad puede verse comprometida; un modelo puede degradarse; un mandato puede caducar. Revocar no significa destruir el agente: significa retirarle autoridad.

También necesitaremos break-glass. Pero cuanto más extraordinario es un poder, más debe estar limitado por tiempo, alcance, identidad, auditoría y revisión posterior. Nunca debería equivaler a admin=true para siempre.

15) El soberano ceremonial

Todo el diseño que propongo termina en la soberanía humana. Es la pieza que todo el mundo acepta sin discusión y, precisamente por eso, la más fácil de vaciar.

En 1867, Walter Bagehot distinguió las partes “dignificadas” de la constitución inglesa, las que inspiran respeto, de las partes “eficientes”, las que gobiernan de verdad. El riesgo agentic es convertir la autoridad humana en una parte dignificada: un monarca constitucional que firma todo lo que el autopilot le pone delante.

No es una hipótesis retórica. Parasuraman y Manzey revisaron décadas de estudios sobre complacencia y sesgo de automatización: aparecen tanto en novatos como en expertos, y ni la práctica ni la formación bastan para evitarlos. Una aprobación que se da en segundos, sobre un resumen redactado por el propio agente, no es soberanía: es ceremonia.

Para que la soberanía sea eficiente y no decorativa:

  • Aprobar sobre evidencia, no sobre narrativa: el humano ve el diff, el resultado del oráculo y el blast radius, no la explicación del agente.
  • Medir la propia aprobación: tasa de aprobación, tiempo mediano hasta aprobar y porcentaje de aprobaciones en las que se abrió la evidencia. Una tasa cercana al 100 % con tiempos de segundos es una señal, no un éxito.
  • Presupuesto de atención: si una persona recibe más aprobaciones de las que puede revisar, el diseño ha fallado antes que ella. La subsidiariedad también protege a los humanos.
  • Reservar la firma humana para lo irreversible y lo constitucional, donde de verdad importa, en lugar de gastarla en lo trivial.

La soberanía humana es la última institución del sistema. Si se vuelve ceremonial, el sistema sigue pareciendo gobernado, pero ya no lo está.

16) Cambio de régimen: transición no es consolidación

Aquí es donde la historia política se vuelve especialmente útil. Un cambio de gobernante no garantiza un cambio de sistema. La literatura sobre democratización, con Linz y Stepan como referencia, separa transición y consolidación: sustituir un régimen es distinto de construir instituciones que sobrevivan a los actores que protagonizaron el cambio.

Ninguno de los seis casos que siguen es una historia lineal. Los tres primeros muestran trayectorias incompletas, revertidas o fragmentadas; los otros tres, consolidaciones que llevaron años. Los uso como patrones institucionales documentados por las fuentes citadas, no como juicio sobre ningún país.

 

Consolidación incompleta, revertida o fragmentada

  • Rusia: transición postsoviética → consolidación "autoritaria"
  • Egipto: apertura → elección → recentralización militar
  • Libia: colapso del régimen → autoridad fragmentada

Consolidación institucional

  • España: negociación → Constitución → consolidación
  • Portugal: revolución → democracia parlamentaria constitucional
  • Corea del Sur: transición de 1987 → arraigo gradual de normas democráticas

Lección agentic: no migres agentes; migra instituciones, mandatos y controles.

Sustituir al soberano sin consolidar instituciones produce resultados muy distintos.

Rusia: cambiar el sistema formal no impide la recentralización

Tras la desaparición de la URSS hubo en Rusia un intento explícito de transición hacia instituciones democráticas y una economía de mercado. El resultado no se consolidó. El Council on Foreign Relations analiza el fracaso de la transición de los años noventa y la evolución posterior hacia un régimen cada vez más "autoritario", y Freedom House clasifica hoy a Rusia como “Not Free” y describe una fuerte concentración del poder presidencial.

Lección agentic: migrar de un Supervisor v1 a una arquitectura “distribuida” no garantiza distribución de poder si identidad, recursos, policy y enforcement siguen convergiendo en el mismo centro. Es la topología D de la sección 5.

Egipto: una elección no equivale a instituciones consolidadas

La revolución de 2011 abrió un periodo de transición, y Mohamed Morsi asumió en 2012 como primer presidente civil elegido. En 2013 las fuerzas armadas lo depusieron y el poder volvió a concentrarse. Freedom House describe el sistema actual como autoritario.

Lección agentic: introducir votación o deliberación entre agentes no crea por sí solo un sistema plural si la autoridad raíz conserva la capacidad de suspender el proceso, reescribir las reglas o retirar a los participantes.

Libia: eliminar al soberano puede destruir también el mecanismo de coordinación

La caída de Muammar al-Qadhafi en 2011 no produjo una transición lineal a una democracia consolidada. La House of Commons Library describe instituciones estatales debilitadas y después divididas entre centros de poder rivales, y Freedom House sigue describiendo un país fragmentado, con elecciones nacionales largamente aplazadas.

Lección agentic: quitar el Supervisor sin haber construido registry, contratos, resolución de disputas, policy compartida y mecanismos de autoridad puede producir una red de agentes autónomos que compiten por recursos. No es descentralización madura; es fragmentación, la topología F.

España: transición y consolidación no son el mismo momento

La investigación sobre la transición española distingue la fase inicial de reforma y presión social de la posterior construcción constitucional basada en acuerdos amplios. Las elecciones de 1977 y la Constitución de 1978 no fueron simplemente un cambio de persona: institucionalizaron nuevas reglas de competencia, representación y distribución territorial del poder.

Lección agentic: una migración de gobernanza seria necesita una fase constituyente: qué roles existen, qué reglas sobreviven al agente anterior, qué autoridad se transfiere y qué mecanismos de compatibilidad permiten cambiar sin apagar el sistema.

Portugal: ruptura rápida, institucionalización posterior

La Revolución de los Claveles de 1974 derribó un régimen autoritario y abrió un periodo revolucionario con fuerte disputa sobre el nuevo orden. La democracia parlamentaria no apareció completa el primer día: se fue construyendo mediante constitución, competencia política e institucionalización.

Lección agentic: después de un “reboot” arquitectónico, el periodo peligroso no es solo el cut-over. Es la etapa posterior, en la que todavía no está claro qué policy es suprema, quién controla los recursos o qué institución resuelve las excepciones.

Corea del Sur: consolidar significa repetir el juego con reglas aceptadas

Corea del Sur atravesó décadas de autoritarismo antes de la transición de 1987, seguida por una consolidación gradual de normas y prácticas democráticas. La palabra importante es gradual. Una institución demuestra que existe cuando sobrevive a varias iteraciones de liderazgo y conflicto.

Lección agentic: no llames “gobernado” a un sistema porque una demo pasó una vez. La gobernanza se demuestra cuando cambia el modelo, se revoca un agente, falla un proveedor, entra un nuevo equipo y las mismas reglas siguen funcionando.

17) La lección transversal de las transiciones

La ciencia política lleva décadas señalando que la democratización no es un evento binario. La transición puede abrir un sistema; la consolidación requiere reglas estables, capacidad estatal, Estado de derecho, instituciones efectivas y mecanismos de rendición de cuentas. El Banco Mundial separa dimensiones como Voice & Accountability, Government Effectiveness y Rule of Law porque ninguna sustituye a las demás.

Trasladado a agentes

  • Capacidad sin rendición de cuentas produce poder opaco.
  • Rendición de cuentas sin capacidad produce un gobierno que observa pero no puede actuar.
  • Capacidad sin imperio de la policy produce un soberano técnico.
  • Descentralización sin instituciones produce fragmentación.
  • Votación sin independencia produce consenso artificial.
  • Autonomía sin revocación produce autoridad permanente.
  • Soberanía sin evidencia produce ceremonia.

18) ¿Qué nos enseñan Hobbes, Locke, Rousseau, Arendt, Foucault, Rawls y Ostrom?

Hobbes recuerda que el orden tiene valor. Su solución al conflicto era un soberano fuerte capaz de imponer orden, y un root supervisor puede ser exactamente eso: elimina disputas, reduce latencia y simplifica la coordinación. Una sociedad de agentes sin mecanismo para cerrar disputas puede bloquearse o fragmentarse. El precio también es conocido: si el soberano falla, todo el orden hereda el fallo.

Locke introduce la autoridad limitada y condicionada: conceder poder para un propósito no significa entregar poder ilimitado. En agentes: mandatos, alcance, caducidad y revocación.

Rousseau obliga a distinguir la suma de preferencias privadas de una decisión orientada al interés común. En agentes: una mayoría de outputs no equivale a una decisión sometida a un objetivo, unas policies y una evidencia comunes.

Arendt pone el foco en las instituciones, la pluralidad, la acción y los peligros de los sistemas donde la realidad común y la responsabilidad se disuelven. Una sociedad de agentes en la que nadie puede reconstruir quién decidió qué pierde el espacio común de evidencia.

Foucault recuerda que el poder no vive solo en el rey: también vive en la observación, la clasificación, las normas y los mecanismos cotidianos. En agentes, la telemetría, el scoring, la evaluación y los policy engines también son tecnologías de poder, y deben gobernarse.

Rawls desplaza la mirada hacia la estructura básica de instituciones que distribuye cargas, oportunidades y autoridad. No basta con evaluar el comportamiento de un agente; hay que evaluar la estructura que decide quién obtiene herramientas, datos y presupuesto. La sección 5 es un primer intento de medirla.

Ostrom rompe el binario entre centralización y anarquía y muestra el valor de los sistemas policéntricos. Es probablemente la inspiración política más útil para una arquitectura agentic empresarial.

La filosofía pregunta qué hace legítimo al poder. La ciencia política estudia cómo se distribuye, se institucionaliza, se captura y cambia. La ingeniería de agentes necesita ambas preguntas.

19) ¿Cuál es la mejor forma de gobierno?

Para las sociedades humanas, esa pregunta no tiene una respuesta técnica única. Depende de valores normativos, legitimidad, derechos, historia, cultura, capacidad estatal y muchos otros factores. Este artículo no clasifica sistemas políticos reales ni convierte una preferencia política en una recomendación arquitectónica.

Para sociedades de agentes empresariales de alta autonomía, sí puedo formular una hipótesis de diseño concreta. El mejor punto de partida que veo hoy no es una autocracia de supervisor ni una anarquía de pares. Es una combinación de constitucionalismo, policentrismo, subsidiariedad, separación de funciones y autoridad humana final. La llamo Constitutional Polycentric Agent Governance (CPAG).

CPAG: autogobierno local, regla constitucional compartida, separación de funciones y evidencia común. El rojo marca lo que ningún agente puede cambiar por su cuenta.

20) CPAG: por qué esta combinación

Constitucional
El gobernante no controla las reglas superiores. Identidad, límites, revocación y evidencia viven fuera del agente, y su reforma sigue un procedimiento explícito.
Policéntrica
No existe un único cerebro empresarial. Múltiples dominios gobiernan decisiones locales dentro de un marco común.
Subsidiaria
La decisión vive cerca del problema. Se escala por riesgo, alcance o conflicto, no por costumbre.
Con separación de funciones
Proponer, autorizar, ejecutar y verificar no son la misma función. Los controles críticos requieren independencia real, también cognitiva.
Basada en evidencia
La explicación no sustituye a la prueba. Oracle Gates, tests, decisiones de policy, provenance y auditoría forman la memoria institucional.
Con soberanía humana efectiva
La autonomía está delegada. Las decisiones irreversibles y los cambios constitucionales conservan una autoridad humana explícita que decide sobre evidencia, no por inercia.

21) Doce artículos para una constitución agentic

  1. Ningún agente ejerce autoridad sin identidad verificable.
  2. Ninguna identidad obtiene capabilities fuera de un mandato explícito.
  3. La delegación no puede ampliar autoridad.
  4. Toda autoridad tiene alcance, propietario y caducidad.
  5. Las acciones críticas deben producir evidencia atribuible.
  6. Ningún ejecutor crítico puede ser su único juez.
  7. Las reglas constitucionales solo cambian mediante un procedimiento de reforma explícito, versionado y con quórum humano; nunca unilateralmente por los agentes sujetos a ellas.
  8. Toda autoridad debe ser revocable.
  9. Las decisiones se resuelven en el nivel competente más próximo.
  10. Cruzar un trust boundary requiere contrato y autorización explícitos.
  11. El consumo de recursos tiene propietario, límites y auditoría.
  12. La soberanía sobre decisiones irreversibles y cambios constitucionales permanece en una autoridad humana u organizacional explícita, que decide sobre evidencia.

22) Del agent-centric al institution-centric

Hasta ahora solemos empezar por “crear agente”, añadir herramientas, memoria y prompt, y después envolver la gobernanza alrededor. Quizá el orden deba invertirse.

Definir la sociedad
  ↓
Definir la constitución
  ↓
Definir las instituciones
  ↓
Definir los cargos
  ↓
Definir los mandatos
  ↓
Definir las capabilities
  ↓
Definir la evidencia
  ↓
Asignar agentes

El agente es la implementación temporal del cargo. No es la institución.

23) El test del cambio de régimen

Propongo una prueba sencilla para cualquier arquitectura agentic: ¿qué ocurre si mañana cambio de modelo o de proveedor? Si eso obliga a rediseñar permisos, auditoría, identidad, memoria, validación y reglas, no teníamos una institución. Teníamos una personalidad con infraestructura.

Una prueba más dura: ¿qué ocurre si cambia el régimen? Si un dominio que era supervisor-led pasa a ser federado, ¿podemos migrar la autoridad explícitamente? ¿Sabemos qué mandatos caducan? ¿Podemos demostrar qué policies siguen siendo supremas? ¿Existe un periodo de doble control? ¿Tenemos un cut-over constitucional?

Y una tercera, ahora medible: calcula la autoridad efectiva de tu topología. Si colapsa en cuanto alguien puede reescribir la policy, ya sabes quién gobierna de verdad.

Es la lección que dejan las transiciones humanas: el momento de reemplazar al gobernante es visible. El trabajo difícil empieza después.

24) ¿Tienen algo que enseñarnos la ciencia política y la filosofía?

Sí. Muchísimo. La informática nos enseña a construir agentes capaces de actuar. La seguridad nos enseña a reducir privilegios. La ingeniería de software nos enseña a probar, observar y evolucionar sistemas. La ciencia política lleva siglos estudiando qué ocurre cuando los actores acumulan poder, cómo aparecen las instituciones, por qué cambian los regímenes y cómo algunos controles terminan capturados por aquello que debían controlar. La filosofía política lleva todavía más tiempo preguntando qué hace legítima una autoridad, qué puede exigir a quienes están sometidos a ella y cómo reconciliar autonomía con orden.

Sería extraño entrar en la era de los agentes ignorando todo eso.

Conclusión: los agentes son nuevos; el problema del poder no

Cuando un modelo responde, tenemos inferencia.
Cuando un copilot propone, tenemos asistencia.
Cuando un agente actúa, tenemos autoridad delegada.
Cuando un agente delega, tenemos jerarquía.
Cuando varios agentes negocian, tenemos sociedad.
Cuando un autopilot encadena decisiones y acciones sobre sistemas reales, tenemos algo que debe ser gobernado.

Y gobernar no significa añadir un filtro al final del prompt. Significa diseñar identidad, jurisdicción, autoridad, límites, instituciones, evidencia, revocación, sucesión, resolución de conflictos y mecanismos capaces de sobrevivir al cambio del actor que hoy ocupa el cargo.

Los agentes son nuevos. El problema que representan, cómo gobernar el poder, no lo es.

Quizá la siguiente gran disciplina de la IA agentic no nazca solamente de la informática. Quizá también necesitemos leer a Hobbes, Locke, Rousseau, Montesquieu, Weber, Arendt, Rawls, Foucault y Ostrom.

Porque antes de construir una sociedad de agentes autónomos, conviene recordar algo que la humanidad ha aprendido muchas veces, normalmente pagando un precio muy alto:

no basta con construir un gobernante inteligente. Hay que construir instituciones capaces de sobrevivirle.

La siguiente iteración

Dejo una deuda que conviene reconocer: el experimento de la sección 5 es sintético. La siguiente iteración natural es construirlo sobre un harness real, con un registry de cargos y mandatos, una comprobación de atenuación en cada delegación y el número efectivo de autoridades calculado a partir de la telemetría, no de un diagrama. Cuando lo tenga, lo contaré aquí.

Fuentes

Selección de fuentes académicas, institucionales y técnicas utilizadas para verificar conceptos, transiciones históricas y el marco de gobernanza. Las analogías agentic, CPAG y la métrica de la sección 5 son propuestas de este artículo, no afirmaciones de estas fuentes.

En este blog

Filosofía y teoría política

Ciencia política y medición

Transiciones

Ingeniería y factores humanos