Los modelos de difusión han revolucionado la generación de imágenes, pero arrastran un problema fundamental: el exposure bias o sesgo de exposición. Durante el entrenamiento, el denoiser aprende a limpiar imágenes reales contaminadas con ruido gaussiano conocido. Sin embargo, en inferencia, el modelo debe procesar sus propias predicciones imperfectas de pasos anteriores —entradas que nunca vio durante el entrenamiento—. Esta discrepancia obliga a recurrir a trucos como Classifier-Free Guidance (CFG) para obtener calidad aceptable, a costa de sobresaturación y pérdida de diversidad.
Un nuevo trabajo publicado en arXiv (2610.14136v2) propone una solución elegante: un módulo corrector entrenado explícitamente para refinar las predicciones del modelo base. La idea es simple pero potente: el corrector recibe como entrada la predicción ruidosa del denoiser base y aprende a mapearla directamente al ground truth (la imagen limpia real). Esto convierte la corrección en una tarea de aprendizaje supervisado explícita, donde los datos de entrenamiento son generados por el propio modelo base.
Durante el muestreo, en cada paso de desruido, el corrector itera sobre la predicción del denoiser, puliéndola progresivamente. Esto evita que artefactos tempranos —comunes en los primeros pasos de difusión— se propaguen y amplifiquen en la muestra final. Sorprendentemente, aunque el corrector solo se entrena con predicciones del modelo base, en inferencia puede aplicarse recursivamente sobre sus propias salidas, mejorando resultados iterativamente.
La evaluación abarca arquitecturas state-of-the-art como DiT (Diffusion Transformers), SiT (Scalable Diffusion Transformers) y JiT. Los resultados son contundentes: mejora sustancial en FID para generación sin guía (unguided) e incondicional, un escenario donde históricamente los modelos de difusión fallan sin CFG. El método alcanza rendimiento competitivo con CFG, y la combinación de ambos reduce la sobresaturación típica de CFG mientras aumenta la diversidad.
Pero el golpe maestro viene en eficiencia: el coste adicional de inferencia del corrector puede amortizarse destilando sus predicciones refinadas de vuelta al modelo base. Esto permite retener las ganancias de calidad sin overhead en tiempo de inferencia, un punto crítico para despliegue en producción.
¿Por qué importa? Este trabajo ataca la raíz del exposure bias sin modificar la arquitectura del denoiser ni requerir datos adicionales. Al hacer de la corrección una tarea aprendida explícitamente, abre la puerta a pipelines de generación más robustos, eficientes y controlables. Para la industria, significa modelos que generan mejor out-of-the-box, con menos prompt engineering y menor coste computacional. La destilación final cierra el círculo: investigación que no solo publica métricas, sino que piensa en el deployment real.
