Los agentes autónomos obligarán a rediseñar el control empresarial

La regulación financiera anticipa una nueva responsabilidad para los Consejos de Administración.

Tablero del CEO

Pregunta ejecutiva	Respuesta JAB
¿Qué está cambiando?	La IA comienza a ejecutar decisiones, no solo a formular recomendaciones.
¿Cuál es el riesgo?	La velocidad de ejecución puede superar la capacidad empresarial de supervisión y recuperación.
¿Dónde impacta?	Operaciones, pagos, clientes, mercados, continuidad y reputación.
¿Qué decisión se requiere?	Definir niveles de autoridad, límites y mecanismos de interrupción.
¿Cuál es la tesis?	Delegar la ejecución no transfiere la responsabilidad.

Resumen Ejecutivo

El Banco de Inglaterra ha advertido que los marcos tradicionales de supervisión podrían resultar insuficientes para controlar sistemas de Inteligencia Artificial capaces de operar autónomamente en pagos, mercados y otras actividades financieras.

La advertencia no se limita al sector bancario.

Los agentes autónomos comienzan a integrarse en procesos empresariales donde pueden consultar información, modificar registros, activar pagos, comunicarse con clientes, autorizar transacciones o coordinar otros sistemas.

La oportunidad de productividad es considerable. También lo es la exposición.

Cuando la IA adquiere capacidad de ejecución, el problema deja de ser exclusivamente tecnológico. Se convierte en una cuestión de gobierno corporativo, control interno, continuidad operativa y responsabilidad ejecutiva.

Tesis JAB: la autonomía tecnológica debe avanzar al mismo ritmo que la capacidad institucional para limitarla, supervisarla y detenerla.

Lo que está cambiando

Durante la primera etapa de adopción empresarial, la Inteligencia Artificial se utilizó principalmente para analizar información, generar contenidos y recomendar decisiones.

El control permanecía en manos de una persona.

La siguiente etapa modifica esa relación. Los agentes autónomos pueden recibir un objetivo, interpretar información, seleccionar una secuencia de acciones, utilizar herramientas y ejecutar una tarea con menor intervención humana.

El cambio puede observarse en procesos como:

• Pagos y cobranza.
• Operaciones financieras.
• Gestión de inventarios.
• Atención al cliente.
• Compras y abastecimiento.
• Evaluación de riesgos.
• Gestión de reclamaciones.
• Actualización de registros.
• Coordinación logística.
• Monitoreo de seguridad.

El Banco de Inglaterra ha señalado que depender de una persona para revisar cada acción realizada por estos sistemas probablemente no será una solución viable.

Ese reconocimiento es importante.

La supervisión tradicional se basa en la posibilidad de revisar una decisión antes de ejecutarla. Pero cuando un agente procesa cientos o miles de operaciones, el control humano individual puede convertirse en un cuello de botella incompatible con el valor económico de la automatización.

La respuesta no consistirá en eliminar el control.

Consistirá en rediseñarlo.

El problema empresarial

La mayoría de las empresas cuenta con estructuras para gobernar personas, aplicaciones, proveedores y procesos.

Las personas tienen funciones, niveles de autorización y responsabilidades.

Las aplicaciones operan mediante permisos y reglas relativamente estables.

Los proveedores se administran a través de contratos, niveles de servicio y controles de acceso.

Los agentes autónomos combinan características de las tres categorías, pero no encajan completamente en ninguna.

Pueden recibir objetivos amplios, interpretar circunstancias cambiantes y seleccionar acciones no programadas de forma individual.

Esto crea una nueva pregunta de gobierno:

¿Cuánta autoridad puede delegar una empresa a una entidad digital antes de superar su capacidad institucional de control?

La respuesta no puede depender únicamente del equipo de tecnología.

Cuando un agente tiene acceso a sistemas críticos, su gobierno involucra a:

• Dirección General.
• Operaciones.
• Finanzas.
• Riesgos.
• Jurídico.
• Cumplimiento.
• Auditoría.
• Ciberseguridad.
• Customer Experience.
• Responsables de procesos.

El agente puede ejecutar una acción.

Pero la organización conserva la responsabilidad frente al cliente, la autoridad, el accionista y el mercado.

Ante un incidente, no bastará afirmar que la decisión fue generada por un modelo o ejecutada por una plataforma externa.

La empresa deberá demostrar:

• Quién autorizó el caso de uso.
• Qué objetivo recibió el agente.
• Qué información utilizó.
• Qué acciones podía ejecutar.
• Qué límites tenía.
• Qué controles estaban activos.
• Quién recibió las alertas.
• Por qué no se detuvo la acción.
• Cómo se corrigieron sus consecuencias.

Delegar la ejecución no transfiere la responsabilidad.

¿Por qué importa?

Los agentes autónomos combinan tres características que modifican el perfil tradicional del riesgo empresarial:

Velocidad

Pueden ejecutar decisiones en segundos.

Escala

Pueden repetir una misma acción en cientos o miles de operaciones.

Interconexión

Pueden actuar sobre varias plataformas y activar otros sistemas o agentes.

En condiciones normales, estas capacidades producen eficiencia.

Durante una desviación, aceleran la propagación del problema.

Un error humano suele tener un alcance limitado por el tiempo y la capacidad individual.

Un error agéntico puede replicarse automáticamente antes de que la organización identifique el patrón.

Los escenarios potenciales incluyen:

• Pagos duplicados.
• Transferencias incorrectas.
• Descuentos no autorizados.
• Bloqueos masivos de cuentas.
• Cancelaciones automáticas.
• Comunicaciones equivocadas.
• Decisiones inconsistentes de crédito.
• Compras innecesarias.
• Exposición de información.
• Escalamiento incorrecto de incidentes.

La preocupación de los reguladores financieros es que múltiples agentes puedan responder de forma similar ante los mismos estímulos y amplificar la volatilidad durante situaciones de estrés.

En una empresa no financiera, el equivalente puede ser una respuesta coordinada pero equivocada en operaciones, precios, inventarios, servicio o cobranza.

La pregunta relevante no es solamente cuánto puede automatizarse.

La pregunta es:

¿Qué pérdida podría generarse antes de que la empresa detecte y detenga una desviación?

Impacto en el Estado de Resultados

La IA agéntica puede generar valor económico mediante cuatro mecanismos principales.

Mayor productividad

Un agente puede procesar más operaciones sin requerir un crecimiento proporcional del personal.

Menor costo operativo

La automatización puede reducir actividades manuales, tiempos de espera y retrabajos.

Mayor velocidad

Las decisiones pueden ejecutarse en tiempo real, mejorando ciclos de atención, pago, cobranza o abastecimiento.

Mayor escalabilidad

La organización puede absorber más volumen sin incrementar proporcionalmente su estructura.

Pero el caso financiero debe reconocer una nueva estructura de costos.

La autonomía requiere:

• Monitoreo continuo.
• Auditoría de decisiones.
• Gestión de identidades.
• Controles de acceso.
• Registro de acciones.
• Pruebas de seguridad.
• Mecanismos de reversión.
• Equipos de atención de excepciones.
• Protocolos de recuperación.
• Supervisión de proveedores.

Variable	Impacto favorable	Exposición económica
Productividad	Mayor volumen por empleado	Errores ejecutados a escala
Costo operativo	Menor intervención manual	Mayor costo de supervisión
Margen	Procesos más eficientes	Pérdidas por acciones incorrectas
Capital de trabajo	Cobros y pagos más rápidos	Movimientos equivocados
Customer Experience	Resolución inmediata	Afectaciones masivas
Escalabilidad	Crecimiento sin estructura proporcional	Dependencia tecnológica
Continuidad	Operación permanente	Fallas difíciles de contener

La rentabilidad no debe calcularse solamente con base en el trabajo manual eliminado.

También debe considerar:

• El costo del control.
• La exposición máxima.
• La probabilidad de incidente.
• El tiempo de recuperación.
• El impacto en clientes.
• La dependencia del proveedor.

Un proyecto puede generar ahorro operativo y, al mismo tiempo, destruir valor si la capacidad de control es insuficiente.

La autonomía rentable necesita una economía del control.

Modelo de Gobierno de Autonomía JAB®

JAB propone evaluar cada agente mediante cinco capas de gobierno.

1. Mandato

El mandato define el objetivo empresarial que el agente puede perseguir.

Debe especificar:

• El problema que puede resolver.
• Los resultados que puede buscar.
• Las decisiones que no puede tomar.
• Los criterios de éxito.
• Las situaciones que requieren escalamiento.

Un mandato ambiguo aumenta el riesgo de que el agente optimice un objetivo local y afecte otro resultado empresarial.

Por ejemplo, reducir el tiempo de atención puede deteriorar la resolución o la satisfacción del cliente.

2. Autoridad

La autoridad establece qué acciones puede ejecutar.

No todos los agentes deben contar con el mismo nivel.

Una clasificación práctica considera:

Nivel 1: observar

El agente consulta información, identifica patrones y genera alertas.

Nivel 2: recomendar

El agente propone una decisión, pero requiere autorización humana.

Nivel 3: ejecutar

El agente actúa directamente dentro de límites definidos.

Nivel 4: coordinar

El agente activa otros procesos, sistemas o agentes.

Nivel 5: administrar excepciones

El agente modifica decisiones previas o responde ante situaciones no previstas.

A mayor autoridad, mayor exigencia de control.

3. Límites

Los límites convierten el apetito de riesgo en restricciones operativas concretas.

Pueden establecerse por:

• Monto.
• Volumen.
• Tipo de transacción.
• Horario.
• Sistema.
• Cliente.
• Producto.
• País.
• Nivel de riesgo.
• Sensibilidad de información.
• Capacidad de reversión.

Un agente podría autorizar pagos menores, pero escalar montos superiores.

Podría resolver solicitudes estándar, pero transferir casos legales, reputacionales o financieros.

Los límites deben diseñarse antes de la implementación, no después de un incidente.

4. Supervisión

La supervisión debe concentrarse en excepciones, patrones y resultados.

No es realista que una persona revise manualmente cada acción.

La organización necesita:

• Registros completos.
• Alertas en tiempo real.
• Indicadores de desviación.
• Umbrales de tolerancia.
• Revisión de muestras.
• Comparación con resultados esperados.
• Responsables claramente identificados.
• Comités de escalamiento.

El objetivo no es observar todo.

Es identificar rápidamente cuándo el comportamiento se aleja de lo permitido.

5. Recuperación

La recuperación representa la capacidad institucional para detener el agente y corregir sus consecuencias.

Incluye:

• Suspender su operación.
• Revocar credenciales.
• Bloquear herramientas.
• Aislar sistemas afectados.
• Revertir transacciones.
• Restaurar información.
• Reanudar servicios.
• Reconstruir la secuencia de decisiones.
• Comunicar el incidente.
• Corregir el modelo o proceso.

Un botón de interrupción no es suficiente si la empresa no puede reparar las acciones ya ejecutadas.

El principio rector del modelo es sencillo:

La autonomía nunca debe superar la capacidad institucional de recuperación.

La decisión del CEO

El Director General no necesita autorizar cada aplicación de Inteligencia Artificial.

Pero sí debe asegurar que la empresa cuenta con un sistema coherente para decidir dónde puede existir autonomía y bajo qué condiciones.

1. Construir un inventario de agentes

La organización debe identificar:

• Agentes desarrollados internamente.
• Funciones agénticas integradas en plataformas.
• Automatizaciones proporcionadas por terceros.
• Herramientas utilizadas directamente por colaboradores.
• Agentes que acceden a datos o sistemas críticos.

El inventario debe registrar tanto la tecnología como la autoridad efectiva.

Un agente aparentemente sencillo puede representar un riesgo alto si tiene permisos para modificar información o ejecutar pagos.

2. Asignar un propietario empresarial

Cada agente debe contar con un responsable del proceso.

El propietario debe responder por:

• El objetivo.
• Los indicadores.
• Los límites.
• Las excepciones.
• El resultado económico.
• Los incidentes.
• La continuidad.

La responsabilidad no debe permanecer exclusivamente en Tecnología.

3. Definir límites de autoridad

La empresa debe establecer qué puede y qué no puede hacer cada agente.

Los límites deben documentarse, configurarse y probarse.

No deben depender únicamente de instrucciones escritas en lenguaje natural.

4. Instalar interrupción y reversibilidad

La organización debe poder detener acciones futuras y corregir operaciones anteriores.

Esto requiere coordinación entre tecnología, operaciones, riesgo y proveedores.

5. Realizar pruebas de estrés agéntico

Antes de ampliar la autonomía, deben simularse escenarios como:

• Información incorrecta.
• Objetivos contradictorios.
• Pérdida de conectividad.
• Falla de un proveedor.
• Acceso no autorizado.
• Ejecución repetitiva.
• Coordinación defectuosa entre agentes.
• Desviación respecto del objetivo original.
• Respuestas simultáneas ante una crisis.
• Imposibilidad de revertir una acción.

Las pruebas no deben limitarse a comprobar que el agente funciona.

Deben demostrar que la empresa puede controlarlo cuando no funciona.

Preguntas para el Consejo de Administración

¿Qué decisiones materiales pueden ejecutar nuestros agentes?

El Consejo debe conocer qué agentes pueden modificar resultados financieros, afectar clientes, comprometer recursos o interactuar con sistemas críticos.

¿Cuál es la pérdida máxima posible?

Cada caso de uso debería contar con una estimación de exposición.

No solamente una expectativa de ahorro.

¿Quién conserva la responsabilidad?

Debe existir un ejecutivo claramente responsable por cada agente relevante.

La responsabilidad compartida suele convertirse en responsabilidad inexistente.

¿Podemos detener y revertir sus acciones?

La empresa debe demostrarlo mediante pruebas.

No basta con afirmarlo en una política.

¿Qué dependencia tenemos de terceros?

Varios agentes pueden depender del mismo proveedor de nube, modelo, plataforma de datos o servicio de identidad.

Esa concentración puede convertirse en un punto común de falla.

Perspectiva JAB

La intervención del Banco de Inglaterra no representa todavía una regulación definitiva.

Representa una señal estratégica.

Los reguladores están reconociendo que los controles diseñados para software tradicional podrían no ser suficientes cuando un sistema interpreta objetivos y ejecuta acciones con autonomía.

El Financial Stability Board también publicó en junio de 2026 una consulta con prácticas para que los Consejos y la alta dirección de instituciones financieras integren la adopción de IA dentro de la estrategia, el gobierno y la gestión de riesgos.

La dirección del cambio es clara.

La regulación avanzará desde principios generales hacia exigencias más concretas sobre:

• Responsabilidad.
• Trazabilidad.
• Límites de autonomía.
• Gestión de terceros.
• Monitoreo.
• Resiliencia.
• Recuperación.

Las empresas no financieras deberían interpretar esta evolución como una referencia temprana.

Los sectores regulados suelen enfrentar primero los controles que posteriormente se convierten en mejores prácticas para otras industrias.

Esperar una obligación local puede generar tres costos:

Costo de corrección

Modificar procesos y sistemas después del despliegue es más caro que diseñarlos correctamente desde el inicio.

Costo contractual

Los acuerdos con proveedores pueden no contemplar auditoría, reversibilidad, acceso a registros o responsabilidades ante incidentes.

Costo de oportunidad

Una empresa sin gobierno adecuado tendrá dificultades para ampliar la autonomía en procesos críticos.

La preparación regulatoria puede convertirse en una ventaja operativa.

Una organización que conoce sus agentes, delimita su autoridad y prueba su recuperación puede adoptar la tecnología con mayor velocidad y confianza.

El control no debe convertirse en un obstáculo para la innovación.

Debe convertirse en la infraestructura que permite escalarla.

Decisiones para el Director General

Durante los próximos 90 días, la Dirección General debería impulsar cinco acciones:

1. Crear un inventario empresarial de agentes y niveles de autoridad.
2. Identificar los casos de uso con impacto financiero, operativo o reputacional.
3. Definir un propietario ejecutivo para cada agente crítico.
4. Evaluar interrupción, reversibilidad y recuperación.
5. Presentar al Consejo un mapa de exposición agéntica.

El objetivo no consiste en suspender la adopción.

Consiste en evitar que la autonomía crezca más rápido que el sistema de control.

Cómo puede ayudar JAB

JAB acompaña a organizaciones en el diseño de modelos de gobierno, procesos de automatización y arquitecturas operativas que integran personas, procesos y agentes inteligentes.

La intervención puede incluir:

• Inventario de agentes.
• Evaluación de niveles de autoridad.
• Identificación de procesos críticos.
• Diseño de límites y escalamiento.
• Modelo de gobierno de IA.
• Pruebas de estrés operativo.
• Definición de indicadores.
• Evaluación de proveedores.
• Diseño de mecanismos de supervisión.
• Hoja de ruta de adopción responsable.

El objetivo no es añadir burocracia.

Es construir las condiciones necesarias para capturar productividad sin ampliar de forma innecesaria el riesgo.

Conclusión

Los agentes autónomos pueden reducir costos, acelerar decisiones y aumentar la capacidad operativa.

Pero también modifican la naturaleza del control empresarial.

Cuando la tecnología deja de recomendar y comienza a ejecutar, la supervisión ya no puede depender únicamente de una persona revisando cada acción.

La empresa necesita gobernar el mandato, la autoridad, los límites, la supervisión y la recuperación.

La tecnología puede ejecutar una decisión.

La empresa conserva sus consecuencias.

La ventaja no será tener agentes más autónomos. Será gobernarlos mejor.