La promesa de la inteligencia artificial generativa y los sistemas autónomos ha llevado a muchas empresas a delegar decisiones complejas en algoritmos que, tras meses de funcionamiento impecable, apenas requieren revisión humana. Sin embargo, un estudio reciente de la Universidad Drexel advierte de un fenómeno silencioso pero crítico: el "riesgo latente". Cuanto mejor funciona la IA, menos practican los empleados el juicio independiente que la organización sigue exigiendo cuando el sistema falla.
Este no es un problema nuevo. La literatura sobre sesgo de automatización lleva décadas documentando cómo los operadores tienden a confiar ciegamente en recomendaciones automatizadas, incluso ante evidencia contradictoria. Lo que cambia ahora es la escala: la IA ya no solo asiste en tareas rutinarias, sino que asume análisis estratégicos, diagnóstico médico, evaluación de riesgos financieros o redacción de contratos. El humano pasa de "tomar decisiones" a "aprobar salidas", un rol pasivo que atrofia la musculatura cognitiva necesaria para intervenir en escenarios de borde.
El paradoja del éxito, como la denomina el profesor de sistemas de información, es perversa: la fiabilidad sostenida de la IA crea una zona de confort donde la supervisión se vuelve teatro. En radiología, por ejemplo, radiólogos que dependen de IA para detección de nódulos pulmonares muestran menor sensibilidad ante falsos negativos tras meses de uso. En banca, analistas de crédito que validan scores algorítmicos pierden agudeza para detectar patrones de fraude sutiles que el modelo no contempla.
Las implicaciones van más allá de la formación. Los marcos regulatorios emergentes —como el Reglamento de IA de la UE— exigen "supervisión humana significativa", pero no definen cómo mantener esa competencia cuando la IA acapara el 95% de los casos estándar. Las empresas que no inviertan en "entrenamiento de intervención" —simulacros de fallo, rotación deliberada de tareas, auditorías de juicio experto— se exponen a errores catastróficos precisamente cuando más necesitan pericia humana: en los casos atípicos, de alto valor o alto riesgo.
La solución no es frenar la adopción, sino rediseñar la relación humano-IA. Eso implica métricas de "preparación para intervenir" junto a KPIs de precisión del modelo, presupuestos para mantenimiento de expertise humano y una cultura que premie la detección de errores algorítmicos como innovación, no como fallo de proceso. La IA puede escalar decisiones, pero la responsabilidad —y la capacidad de responder cuando la escala falla— sigue siendo irreductiblemente humana.
