En una entrevista reciente con Fast Company AI, el fundador y CEO de Pangram, una startup especializada en la detección de texto producido por modelos de lenguaje, lanzó una advertencia contundente: la sociedad está desarrollando un hábito peligroso de consumir lo que él denomina ‘AI slop’, es decir, salidas de inteligencia artificial de baja calidad, poco verificadas y a menudo engañosas. Según el ejecutivo, aunque las herramientas de detección de IA se presentan como una especie de escudo infalible capaz de identificar contenido sintético, su efectividad está lejos de ser del 100 %, lo que crea una falsa sensación de seguridad entre usuarios, editores y plataformas.

El concepto de ‘slop’ de IA no es nuevo, pero ha ganado relevancia con la explosión de modelos de lenguaje grandes como GPT‑4, Claude y Llama, que permiten generar textos coherentes a gran velocidad y bajo costo. Sin embargo, esa misma facilidad conlleva riesgos: desde la difusión de desinformación sutil hasta la erosión de la confianza en fuentes legítimas cuando los lectores no pueden distinguir entre contenido humano y máquina. Pangram sostiene que, si bien sus algoritmos de detección pueden señalar patrones estadísticos típicos de la generación automática, existen múltiples factores que reducen su precisión, como el ajuste fino de modelos para imitar estilos humanos, el uso de técnicas de ofuscación o la simple variabilidad inherente al lenguaje natural.

El CEO subraya que la dependencia excesiva en estas herramientas de detección puede llevar a una complacencia peligrosa. Las empresas podrían confiar en un filtro imperfecto para moderar contenido, mientras que los consumidores podrían aceptar como veraz cualquier texto que pase el filtro, sin realizar una verificación crítica adicional. Esta dinámica, advierte, podría amplificar la propagación de narrativas falsas o manipuladas, especialmente en contextos sensibles como elecciones, salud pública o mercados financieros.

Para contrarrestar esta tendencia, Pangram propone un enfoque multifacético: combinar detección automatizada con auditoría humana, fomentar la educación mediática sobre las limitaciones de la IA y promover estándares de transparencia que obliguen a los desarrolladores a marcar claramente el contenido generado por máquina. Además, la compañía está explorando métodos de detección basados en el análisis de la intención y el contexto, más allá de los simples rasgos estadísticos, con la esperanza de aumentar la robustez frente a técnicas de evasión cada vez más sofisticadas.

El debate planteado por el CEO de Pangram resuena en un momento en que legisladores de la Unión Europea y otros organismos internacionales están discutiendo marcos regulatorios para la IA, incluyendo requisitos de etiquetado y responsabilidad por desinformación generada por algoritmos. Si bien la regulación aún está en fase de borrador, la industria ya siente la presión de demostrar que sus sistemas pueden ser confiables y que los usuarios no están expuestos a un ‘slop’ que comprometa la integridad de la información.

En última instancia, la advertencia de Pangram no es un llamado a abandonar la detección de IA, sino a reconocer sus límites y a complementarla con pensamiento crítico y buenas prácticas de verificación. Para los profesionales tecnológicos hispanohablantes, el mensaje es claro: la innovación en modelos de lenguaje debe ir acompañada de una cultura de responsabilidad que evite que la conveniencia se convierta en vulnerabilidad.