India despliega agentes IA más rápido de lo que puede gobernarlos: el verdadero riesgo no es la autonomía, sino la rendición de cuentas

Por Momentum IA · 28 de junio de 2026.

Hay una frase en el artículo de Jamil Khatri que merece detenerse: «El riesgo no empieza cuando una máquina se pone a dirigir una empresa. Empieza antes, cuando la autoridad de decisión se entrega un permiso a la vez». Es una observación incómoda porque describe algo que ya está ocurriendo, con discreción y sin titulares.

El texto, publicado como tribuna de opinión en The Financial Express, describe la trayectoria habitual de un agente IA en finanzas: primero detecta facturas desajustadas, luego contacta proveedores, luego recomienda ajustes y enruta transacciones para aprobación. Un agente de atención al cliente pasa de redactar respuestas a emitir reembolsos dentro de ciertos límites. Cada paso parece razonable; el conjunto supone una transferencia silenciosa de autoridad ejecutiva a un sistema de software. Lo que llama la atención es que esta progresión no se diseña de forma deliberada: simplemente ocurre, caso de uso a caso de uso, a medida que los equipos amplían los permisos del sistema para ganar eficiencia.

Khatri argumenta que India tiene bases sólidas para adoptar estos agentes a escala y a velocidad. El país ha demostrado repetidamente que puede comprimir costes tecnológicos sin sacrificar alcance: el dato móvil llegó a una fracción del precio global, los pagos digitales se acercaron a un coste marginal prácticamente nulo por transacción. Son antecedentes reales y poderosos. Sin embargo, y aquí está el núcleo del artículo, esa capacidad de adopción rápida y barata no equivale a preparación operativa. Muchos procesos de negocio en India siguen fragmentados, mal documentados o dependientes de juicio humano tácito que nunca se ha formalizado. Automatizar un proceso caótico no lo ordena: lo perpetúa, pero ahora sin una persona que detecte la anomalía.

El problema se agudiza cuando los agentes entran en finanzas, cumplimiento normativo o reporting regulatorio. Una vez que un sistema comienza a conciliar cuentas o preparar informes para el regulador, ya no está «al lado» del entorno de control: lo es. Y los controles existentes, diseñados bajo el supuesto de que un humano inicia, revisa o aprueba cada acción, quedan sin fundamento.

Nuestra lectura: esto no es un problema exclusivo de India, pero India lo encarna con especial urgencia porque la velocidad de adopción va a ser notable. El artículo identifica una brecha de gobernanza que ya existe en empresas de todo el mundo y que tenderá a ampliarse cuanto más capaz y más autónomo sea el agente. La pregunta no es si habrá fallos —los habrá— sino quién asumirá la responsabilidad cuando un agente tome una decisión errónea con consecuencias materiales. Khatri es explícito: la empresa no puede trasladar esa responsabilidad al proveedor del modelo o de la plataforma SaaS. La externalización del software no externaliza la accountability.

El marco de cinco preguntas que propone —¿dónde están desplegados los agentes?, ¿qué autoridad tienen?, ¿quién es responsable de cada resultado material?, ¿quedan registradas las acciones relevantes?, ¿puede un humano intervenir o detener el sistema?— es sencillo pero brutalmente práctico. La mayoría de las empresas que lean esas preguntas no podrán responder las cinco con claridad. Eso ya es un diagnóstico.

Como contexto del sector, la tensión entre capacidad técnica y madurez de gobernanza no es nueva: la vivimos con los modelos de riesgo financiero antes de 2008, con los algoritmos de moderación de contenido en redes sociales, con los sistemas de scoring crediticio automatizados. En cada caso, la industria corrió más rápido que la regulación y más rápido que sus propios controles internos. Con los agentes IA el ciclo se repite, pero la velocidad de propagación es mayor y los permisos que se ceden son más amplios.

A largo plazo, la automatización de tareas de finanzas, compliance y operaciones puede liberar a miles de profesionales de trabajo repetitivo de bajo valor para dedicarse a juicio, estrategia y relación humana. Ese es el horizonte que merece defenderse. Pero llegar ahí requiere exactamente lo que Khatri pide: que la misma disciplina con la que India escala tecnología se aplique al diseño de procesos, a los límites de autoridad y a los mecanismos de rendición de cuentas. Sin ese trabajo previo, los errores de los agentes no serán anécdotas técnicas: serán eventos de riesgo operacional con nombre y apellido en el balance.