El campo del desaprendizaje (unlearning) ha ganado tracción en los últimos años como una respuesta directa a la necesidad de que los modelos de IA generativa eliminen conocimientos específicos sin comprometer su rendimiento global. La rápida expansión de aplicaciones que manipulan imágenes, texto y audio ha puesto de relieve la importancia de poder “desaprender” datos sensibles, conceptos erróneos o estilos no deseados, especialmente bajo regulaciones de privacidad como el GDPR. Sin embargo, mientras se desarrollan algoritmos cada vez más sofisticados para “borrar” conceptos como caras, estilos o datos sensibles, un problema emergente es la interferencia: la degradación inesperada de conceptos semánticamente relacionados que el modelo debería conservar. Esta falta de caracterización sistemática ha limitado la evaluación objetiva de los métodos de unlearning y ha obstaculizado la confianza en su despliegue real.
I-CARE propone una arquitectura teórica que trata la interferencia como objeto de estudio independiente, definiendo tres componentes clave: (1) una tarea de unlearning formalizada que especifica qué conceptos deben eliminarse y cuáles deben permanecer; (2) un conjunto de métricas cuantitativas —divergencia de representaciones, preservación de similitud semántica y efecto en métricas de downstream— que permiten medir la magnitud y el tipo de interferencia; y (3) plantillas de reporte que estandarizan la presentación de resultados, facilitando la comparabilidad y la replicación por parte de la comunidad.
Para validar I-CARE, los autores realizaron una serie de experimentos con algoritmos de punta como SUTD‑Unlearning y Forget‑Me‑Not, aplicándolos a los conjuntos de datos CelebA‑HQ y LAION‑Aesthetics, que son referencia en generación de imágenes. Los resultados mostraron que la interferencia varía significativamente según el método de unlearning y la topología de la red, revelando patrones que antes pasaban desapercibidos. Por ejemplo, ciertos algoritmos eliminaron no solo el concepto objetivo sino también rasgos visuales altamente correlacionados, mientras que otros mantuvieron una mayor fidelidad semántica. Esta variabilidad subraya la necesidad de métricas específicas, que I-CARE proporciona de forma estructurada.
El proyecto de I-CARE está disponible como una librería de código abierto en GitHub, acompañada de una interfaz web interactiva que permite a cualquier investigador cargar sus métricas y visualizar, mediante gráficos interactivos, la distribución de la interferencia en diferentes configuraciones. Esta accesibilidad elimina la barrera técnica que suele acompañar a los marcos de análisis avanzados, democratizando la adopción de evaluaciones rigurosas en entornos con recursos limitados.
La introducción de I-CARE constituye un paso decisivo hacia la estandarización de la evaluación de unlearning en modelos generativos, ofreciendo una hoja de ruta clara para diseñar experimentos reproducibles y para comunicar de manera transparente los compromisos entre olvido y preservación. Al proporcionar una medida objetiva de la interferencia, la comunidad podrá identificar rápidamente qué algoritmos son más adecuados para casos de uso críticos, acelerar la investigación en seguridad y privacidad, y, en última instancia, contribuir a modelos de IA más confiables y responsables.
En la literatura existente, la mayoría de los enfoques de unlearning se centran en la exactitud de la eliminación del concepto objetivo, a menudo ignorando cómo afecta a los vecinos semánticos. Estudios anteriores han propuesto métricas de borrado basadas en la pérdida de entrenamiento o en la distancia entre embeddings, pero estas medidas no capturan la interacción entre conceptos que comparten representaciones. I-CARE, al contrastar la divergencia de representaciones con la preservación de similitud, cierra esta laguna y ofrece una visión más holística del fenómeno.
De cara a futuro, I-CARE puede ampliarse incorporando mediciones de robustez adversarial, evaluando cómo la interferencia impacta la resistencia del modelo a ataques de datos. Además, la integración con plataformas de entrenamiento continuo permitirá monitorizar la interferencia en tiempo real, facilitando la toma de decisiones en pipelines de despliegue. La disponibilidad de una métrica estandarizada también abrirá la puerta a comparaciones justas entre distintas familias de modelos generativos, impulsando la innovación y la confianza en la IA responsable.
