La noción de memoria en los agentes de inteligencia artificial ha evolucionado más allá de la simple retención de pesos en el modelo. Un reciente trabajo publicado en arXiv introduce la idea de memorización en tiempo de despliegue, donde la capacidad de recordar a los usuarios entre interacciones se trata como una función explícita que se configura durante la puesta en marcha del agente, en lugar de depender únicamente de lo que el modelo haya aprendido durante su entrenamiento. Este cambio de perspectiva obliga a reevaluar cómo se mide la utilidad de la personalización frente a los riesgos de extracción de datos y la efectividad de los mecanismos de borrado.\n\nPara abordar esta superficie, los autores definen una frontera privacidad‑utilidad medida mediante dos métricas nuevas: el Personal Recall (PR), que indica cuánta información personalizada el agente puede recuperar correctamente, y la Adversarial Extraction Rate (AER), que cuantifica la proporción de datos que un atacante podrá extraer mediante consultas maliciosas. Además, introducen el Forgetting Residue Score (FRS) para evaluar cuánta información supuestamente eliminada sigue siendo recuperable a partir de niveles derivados de la memoria, como resúmenes o índices. El estudio varía tres parámetros de diseño: la agresividad del resumen, el ancho de recuperación (k) y el modo de eliminación, explorando cómo cada uno afecta simultáneamente a PR, AER y FRS.\n\nEn el benchmark LongMemEval, los resultados muestran que aplicar un resumen agresivo de los hechos clave reduce la tasa de extracción de canarios en un 76 % para Gemma 3 12B y en un 64 % para GPT-4o-mini, mientras que el PR se mantiene prácticamente intacto. Un hallazgo particularmente relevante es que, una vez que la información ha sido comprimida y eliminada del nivel bruto, aumentar el ancho de recuperación k ya no logra resucitar la fuga; la compresión actúa como una barrera efectiva contra la extracción posterior. Sin embargo, esa misma compresión revela una debilidad en la fidelidad del borrado: cuando solo se elimina la capa cruda, las copias derivadas del resumen permanecen recuperables en aproximadamente el 20 % de los casos. Solo una purga completa del pipeline o la aplicación de una marca de tumba (tombstone redaction) logra llevar el FRS a cero, garantizando que la información desaparezca de forma irreversible.\n\nEstos hallazgos subrayan que la memoria de los agentes debe tratarse como un mecanismo de memorización de primera clase, cuya evaluación no puede limitarse a los pesos del modelo ni a configuraciones estáticas de caché. Los diseñadores ahora deben considerar explícitamente el triple objetivo de maximizar la personalización útil, minimizar la tasa de extracción adversaria y asegurar un borrado verificable. En un entorno donde los agentes de IA están destinados a acompañar a los usuarios durante meses o años, la capacidad de olvidar de forma segura se vuelve tan crítica como la de recordar, especialmente bajo marcos regulatorios como el Reglamento General de Protección de Datos (GDPR) o leyes emergentes de IA que exigen el derecho al olvido.\n\nEn última instancia, el trabajo abre una hoja de ruta para futuras investigaciones: desarrollar algoritmos de resumen que preserven la utilidad sin dejar rastros recuperables, diseñar modos de eliminación que operen de forma atómica sobre todas las capas de memoria y crear benchmarks más rigurosos que midan la persistencia de datos en sistemas de agentes de larga vida. Solo mediante una evaluación holística de la memorización en tiempo de despliegue podremos construir agentes de IA que sean tanto personalizados como dignos de confianza.