La National Crime Agency (NCA) del Reino Unido y la Internet Watch Foundation (IWF) han emitido una guía conjunta sin precedentes: los padres deben evitar subir fotografías de sus hijos a perfiles públicos o, como mínimo, restringir su visibilidad a círculos cerrados. La razón es el crecimiento exponencial de material de abuso sexual infantil generado por inteligencia artificial, conocido técnicamente como CSAM sintético, que se alimenta de imágenes legítimas —baños, playa, cumpleaños— para crear contenido explícito mediante herramientas de "nudificación" y deepfake.

El fenómeno no es teórico. La IWF detectó en 2023 más de 20.000 imágenes de abuso generadas por IA en un solo foro de la dark web; muchas partían de fotos familiares robadas de Instagram o Facebook. Los modelos de difusión (Stable Diffusion, Midjourney, versiones abiertas de DALL·E) permiten, con pocos clics y sin conocimientos técnicos, desvestir a un menor o insertar su rostro en escenas pornográficas. La barrera de entrada ha caído: antes hacía falta pericia en Photoshop; hoy basta un prompt y una GPU de alquiler en la nube.

La guía recomienda tres pasos inmediatos: 1) pasar todas las cuentas a modo privado; 2) usar listas de "amigos cercanos" o álbumes compartidos con cifrado de extremo a extremo; 3) activar la verificación en dos factores y revisar etiquetas de geolocalización. Pero la responsabilidad no recae solo en las familias. Las plataformas —Meta, TikTok, Snap— están bajo presión regulatoria (Online Safety Act en Reino Unido, DSA en la UE) para detectar y retirar CSAM sintético a escala. Sin embargo, la moderación automática sigue fallando con falsos negativos en deepfakes de alta calidad y falsos positivos en contenido artístico o médico.

Desde el sector tecnológico, voces como la de la Partnership on AI piden estándares de proveniencia (C2PA, watermarking invisible) obligatorios en generadores de imagen, y que los navegadores y apps de mensajería los verifiquen al cargar. Mientras tanto, la NCA ha abierto una línea de denuncia específica para CSAM sintético y colabora con Europol y el NCMEC estadounidense en operaciones transfronterizas.

Para los profesionales de IA, el caso subraya una tensión estructural: la apertura de pesos y datasets acelera la innovación, pero también democratiza el daño. Empresas como Stability AI o Runway han implementado filtros de seguridad, pero los forks de código abierto (ej. Unstable Diffusion) los eluden en horas. El debate regulatorio apunta a licencias de uso responsable, auditorías de terceros y, en última instancia, responsabilidad legal para quien publique modelos sin salvaguardas robustas.

En resumen: la foto inocente de hoy puede ser el dataset de abuso de mañana. Blindar la huella digital de los menores ya no es paranoia, es higiene de seguridad básica en la era de la IA generativa.