La promesa de los agentes de inteligencia artificial autonoma es tentadora: sistemas capaces de planificar, decidir y ejecutar acciones a traves de multiples plataformas sin esperar la aprobacion humana en cada paso. Pero esa autonomia trae consigo una pregunta que ya no pueden ignorar los arquitectos empresariales: que detiene, en la practica, a un agente que intenta ejecutar una accion para la que nunca fue autorizado?
El planteamiento lo pone sobre la mesa un analisis reciente publicado en VentureBeat, elaborado con la colaboracion de EDB, y su argumento central es provocador. Los agentes operan con tus modelos, tocan tus datos y corren en tu infraestructura. La responsabilidad de lo que hagan es tuya. Y esa responsabilidad no se cubre con politicas abstractas archivadas en documentos que nadie consulta cuando el sistema ya esta actuando en milisegundos.
La falacia de las instrucciones literales
El ejemplo de la puerta del coche resulta iluminador. Imagina una regla simple: nunca abras la puerta del coche. Aplicada de forma literal, el agente jamas podria subir ni bajar del vehiculo. Pero cambia el contexto: el coche acaba de chocar, hay fuego, alguien herido necesita salir. La regla que realmente quieres es justo la opuesta. El contexto del momento lo cambia todo, y aqui reside el problema de fondo. Estamos pidiendo a los agentes que hagan cosas inteligentes, lo cual exige reglas igualmente inteligentes, capaces de evaluar la situacion antes de actuar.
Esta tension entre instrucciones rigidas y realidades cambiantes es el corazon del debate sobre gobernanza en sistemas autonomos.
Por que los guardrails tradicionales se quedan cortos
El reflejo habitual de las organizaciones es apilar capas de proteccion alrededor del agente: instrucciones, politicas, sistemas de monitoreo. Estos mecanismos tienen su valor, pero comparten un limite estructural que conviene entender: las reglas externas solo son fiables en la medida en que la salida del agente sea predecible. Y la autonomia es, precisamente, la propiedad que vuelve esa salida dificil de anticipar. La gobernanza que depende de revisar una accion antes de que ocurra no puede seguir el ritmo de un sistema que actua en milisegundos, distribuido a traves de multiples servicios simultaneamente.
La capa de datos como punto de ejecucion real
Aqui llega la tesis central del articulo: la gobernanza tiene que volverse ejecutable y aplicarse donde los agentes realmente hacen su trabajo, en la capa de datos operativa, con el contexto adecuado y exactamente en el momento en que la accion ocurre.
Los agentes generan valor tocando datos: los consultan, los recuperan, los transforman, los escriben. Cada una de esas interacciones es un punto de control potencial. Si las reglas viven en una capa externa, separada de los datos, el agente puede saltarselas con facilidad, ya sea por error, por una instruccion mal interpretada o por una vulnerabilidad explotada. En cambio, si las politicas se ejecutan a nivel de la propia base de datos, integradas con los esquemas, las consultas y los flujos de acceso, el control deja de ser optativo para el agente y pasa a ser una propiedad del sistema.
Que implica esto para las empresas
Para los equipos tecnicos que estan desplegando agentes en produccion, el mensaje es claro. Construir gobernanza en la capa de datos no es solo una cuestion de cumplimiento normativo, aunque marcos como el AI Act europeo estan elevando la exigencia. Es, sobre todo, una decision de arquitectura. Significa tratar las politicas de acceso, las validaciones y los limites de accion como parte inseparable del diseno del agente, no como un envoltorio que se anade despues.
Esto tiene consecuencias praticas inmediatas. Los equipos de datos y de IA deben colaborar desde el inicio del proyecto, no despues. Los modelos de permisos deben contemplar escenarios dinamicos, no solo roles estaticos. Y los sistemas de observabilidad tienen que ser capaces de reconstruir que datos toco un agente, bajo que contexto y con que autorizacion efectiva.
El debate que viene
A medida que los agentes multi-step se vuelven mas comunes en flujos empresariales criticos, la pregunta deja de ser teorica. Ya hay organizaciones desplegando agentes que mueven dinero, gestionan inventarios o interactuan con datos sensibles de clientes. Para estos casos, la gobernanza como concepto abstracto no protege a nadie. La proteccion real esta en el codigo que se ejecuta, en la consulta que se valida, en el dato que se entrega o se deniega.
La conclusion es directa: si quieres agentes autonomos de verdad, necesitas una gobernanza que viva tan abajo como ellos. En la capa de datos, con contexto y en tiempo real. Todo lo demas es un documento en un cajon esperando a que ocurra el incidente.
