El regreso de la serie Black Box de The Guardian no podía ser más oportuno. Mientras la industria tecnológica celebra los avances en modelos multimodales y agentes autónomos, el segundo episodio de la temporada —reemitido ahora antes del lanzamiento de la segunda entrega— baja a los infiernos de la IA generativa: la producción industrial de material de abuso sexual no consentido. El periodista Michael Safi narra en primera persona una obsesión de seis meses: descubrir quién está detrás de ClothOff, una de las aplicaciones más notorias para "desnudar" fotos de mujeres mediante deepfakes.
Lo que comienza como una investigación periodística al uso —registro de dominios, rastreo de servidores, análisis de términos de servicio— se convierte pronto en un thriller burocrático. Safi se topa con una estructura societaria diseñada para la opacidad: empresas pantalla en jurisdicciones opacas, directores straw man (hombres de paja) y un rastro digital que se disuelve en el momento en que se intenta tocar la fibra humana detrás del código. La aplicación, que llegó a tener millones de usuarios antes de ser retirada de las tiendas oficiales, opera en esa zona gris donde la ingeniería de prompt se encuentra con la intención criminal.
Para los profesionales del sector, el caso ClothOff es un case study doloroso pero necesario sobre la cadena de suministro de la IA maliciosa. No hablamos de un script suelto en GitHub, sino de un producto empaquetado, con interfaz amigable, sistema de pagos (criptomonedas incluidos) y una arquitectura de alojamiento bulletproof resistente a takedowns legales. La tecnología subyacente —modelos de inpainting y diffusion accesibles vía open source o APIs baratas— es commodity; la innovación real de estos actores es operativa y jurídica: cómo monetizar el abuso sin dejar rastro fiscal ni penal.
El episodio plantea una pregunta que trasciende el true crime tecnológico: ¿Está la IA haciendo imposible distinguir el hecho de la ficción? La respuesta técnica es matizada (existen detectores, marcas de agua watermarking y estándares como C2PA), pero la respuesta sistémica es desalentadora. La asimetría de costes es brutal: generar un deepfake cuesta céntimos y segundos; detectarlo, verificarlo y perseguirlo legalmente cuesta miles de euros y meses. Mientras el Reglamento IA de la UE y la reciente Ley Orgánica española intentan poner coto a la deep nudity tipificando su creación y difusión, la jurisdiccionalidad de internet permite a estos operadores saltar de servidor en servidor con una agilidad que los Estados de derecho no pueden igualar.
La investigación de Safi deja una conclusión incómoda para la comunidad tech: la autorregulación ha fracasado estrepitosamente en esta vertical. Las grandes plataformas (Google, Apple, Cloudflare, proveedores de hosting) actuaron a posteriori y bajo presión mediática, no por diseño de seguridad (safety by design). Mientras los laboratorios de vanguardia debaten alignment y riesgo existencial a largo plazo, en la trinchera se libra una batalla por la dignidad digital de millones de personas —mayoritariamente mujeres— cuya intimidad se mercantiliza con una latencia de milisegundos.
Escuchar Black Box es un recordatorio de que, detrás de cada benchmark de generación de imagen, hay un vector de ataque esperando ser explotado. La caza de ClothOff no ha terminado; sus operadores probablemente ya han mutado de marca, dominio y jurisdicción. El reto para la industria no es solo técnico —mejores detectores, watermarks robustos—, sino de gobernanza de la infraestructura: cortar el oxígeno (pagos, hosting, dominios) a quienes industrializan el daño. Hasta que eso ocurra, la caja negra seguirá abierta.
