La sofisticación de los modelos de generación de imagen por inteligencia artificial ha abierto una puerta oscura que pocos anticiparon: la creación de material de abuso sexual infantil (CSAM) a partir de fotografías completamente inocentes. El servicio Report Remove, gestionado por la Internet Watch Foundation (IWF) y Childline en Reino Unido, ha documentado casos donde selfies adolescentes —tomados frente al espejo, vestidos— han sido transformados en vídeos pornográficos extremos mediante aplicaciones de "nudificación" accesibles en la red abierta.

El fenómeno rompe el paradigma tradicional del "grooming". Ya no es necesario que el menor interactúe con un depredador, comparta imágenes íntimas bajo coacción o sea engañado en un chat. Basta con que una foto pública —un perfil de Instagram, una historia de WhatsApp, una imagen escolar— caiga en manos de alguien con acceso a estas herramientas, muchas de ellas basadas en modelos de código abierto como Stable Diffusion adaptados con LoRAs específicas para desvestir cuerpos.

La disponibilidad democratizada de la tecnología es el factor crítico. Mientras que la generación de deepfakes pornográficos de adultos requería cierta pericia técnica hace dos años, hoy existen bots de Telegram, webs y repositorios de GitHub que automatizan el proceso con una interfaz de "subir foto, obtener resultado". La barrera de entrada técnica se ha evaporado, escalando el riesgo de forma exponencial.

Desde el punto de vista regulatorio, el Reino Unido avanza con el Online Safety Act, que obliga a las plataformas a detectar y eliminar CSAM, incluido el generado por IA. Sin embargo, la legislación persigue la distribución, no la existencia de las herramientas generativas. En la UE, el AI Act clasifica estos sistemas como de alto riesgo, pero su aplicación efectiva a modelos abiertos descargados localmente es una incógnita jurídica y técnica.

Para los profesionales tecnológicos, el caso expone la dualidad del open source en IA: la misma arquitectura que impulsa avances médicos o creativos permite, con pesos modificados, automatizar crímenes atroces. La comunidad debate si la solución pasa por controles en la capa de aplicación (watermarking obligatorio, filtros de seguridad en APIs comerciales) o por perseguir la distribución de pesos maliciosos —algo técnicamente casi imposible una vez liberados.

Mientras los marcos legales maduran, la primera línea de defensa sigue siendo la higiene digital familiar: perfiles privados, geolocalización desactivada, y la conversación incómoda pero necesaria con menores sobre la permanencia y manipulabilidad de su huella digital. La tecnología ha corrido más rápido que la ética y la ley; cerrar esa brecha exige coordinación entre desarrolladores, plataformas, legisladores y familias.