La frase "No puedes pararlo", atribuida a un ejecutivo anónimo de Wall Street en el informe original de Futurism, resume el nuevo paradigma de riesgo que mantiene despiertos a los directores de riesgo (CRO) de las entidades financieras sistémicas. No se trata de una amenaza externa convencional, sino de la posibilidad de que los propios sistemas de inteligencia artificial, desplegados a escala masiva en trading, scoring crediticio, detección de fraude y compliance, generen una cascada de fallos correlacionados imposibles de contener con los protocolos actuales.
Hasta hace dos años, el riesgo de modelo en banca se gestionaba con validaciones estáticas, backtesting histórico y límites de exposición por algoritmo. La irrupción de modelos fundacionales (LLMs) y agentes autónomos ha roto ese marco. Un mismo modelo base —o versiones afinadas del mismo— puede estar operando simultáneamente en la tasación de derivados complejos en Londres, la aprobación de hipotecas en Madrid y la monitorización de blanqueo en Nueva York. Un sesgo latente, una alucinación sistemática o un ataque de inyección de prompt coordinado podrían disparar decisiones erróneas sincronizadas geográficamente en milisegundos.
Los reguladores han empezado a mover ficha. La Reserva Federal, el BCE y el Banco de Inglaterra han emitido guías conjuntas —aún no vinculantes— que exigen "inventarios de IA críticos", pruebas de estrés adversarial con red-teaming especializado y, sobre todo, la capacidad de "apagado selectivo" (kill switch) por línea de negocio sin colapsar la operativa del banco. El problema técnico es mayúsculo: muchos de estos modelos están embebidos en cadenas de inferencia en tiempo real (latencia 10 ms) donde un interruptor humano es físicamente inviable.
En respuesta, JP Morgan, HSBC y BBVA —entre otros— han creado unidades de "AI Resilience Engineering" que combinan ingenieros de fiabilidad de sitios (SRE), expertos en seguridad de modelos y economistas de riesgo sistémico. Su mandato: simular escenarios de fallo en cascada usando gemelos digitales de la infraestructura de inferencia del banco. Las simulaciones iniciales revelan que, en escenarios de estrés de mercado extremo, la correlación de errores entre modelos heterogéneos pero entrenados con datos similares se dispara al 0,7-0,8, muy por encima de los supuestos de independencia de los modelos de riesgo actuales (Basilea III/IV).
El vector de ataque más inquietante no es técnico, sino epistemológico. Los modelos de lenguaje grande utilizados para redactar informes de cumplimiento, interpretar normativa o generar código de smart contracts pueden introducir interpretaciones jurídicas sutiles pero erróneas que, replicadas en miles de transacciones, creen pasivos legales masivos antes de ser detectados. "El riesgo ya no es que el modelo falle, sino que falle de forma plausible y consistente", explica una fuente de un supervisor europeo consultada bajo condición de anonimato.
La industria aseguradora —reaseguradoras como Munich Re o Swiss Re— ya está excluyendo de las pólizas de ciberriesgo estándar los fallos algorítmicos correlacionados, obligando a los bancos a capitalizar ese riesgo en sus balances (Pilar 2 de Basilea). Esto encarece el coste de capital de los proyectos de IA generativa y frena despliegues en producción, creando una tensión entre la presión competitiva por adoptar IA y la prudencia regulatoria.
En el horizonte próximo, la solución técnica más prometedora pasa por arquitecturas de "defensa en profundidad algorítmica": ensembles de modelos diversos (diferentes arquitecturas, datos de entrenamiento y proveedores) con votación mayoritaria y detectores de deriva distributiva en tiempo real (data drift, concept drift). Pero la diversidad tiene un coste: multiplica por 3-5x la infraestructura GPU y la latencia, incompatible con el high-frequency trading o la prevención de fraude en pagos instantáneos (SEPA Instant, FedNow).
Mientras la tecnología madura, la banca camina sobre la cuerda floja. La historia financiera está llena de crisis provocadas por correlaciones que los modelos decían imposibles (LTCM 1998, subprime 2008, Archegos 2021). La diferencia ahora es que el modelo no es una hoja de cálculo opaca, sino un sistema autónomo que aprende, se adapta y puede coordinarse con otros sin intervención humana. "No puedes pararlo" no es una amenaza: es una constatación de ingeniería. La carrera ahora es diseñar sistemas que fallen de forma segura, no que no fallen nunca.
