La confianza en internet atraviesa una crisis silenciosa. No se trata solo de los feeds saturados de contenido basura generado por inteligencia artificial, sino de algo más profundo: la IA ya se infiltró en procesos donde la veracidad importa de verdad. Currículos con fotografías retocadas algorítmicamente, reseñas de productos escritas por modelos de lenguaje y, en el caso más preocupante, reclamaciones de seguros fabricadas píxel a píxel. La pregunta dejó de ser un pasatiempo de '¿real o falso?' para convertirse en un problema de infraestructura digital.

Max Spero, CEO de Pangram, una de las startups que intenta poner orden en este caos, lo explicó con crudeza en una reciente conversación con TechCrunch: la detección de IA es exponencialmente más compleja que el juego viral que popularizó esa expresión. La diferencia, según Spero, es que detectar un rostro deepfake en un contexto casual es un ejercicio casi divertido. Pero cuando ese mismo tipo de falsificación aparece en una solicitud de empleo, en una denuncia de siniestro o en una campaña de desinformación política, las consecuencias son materiales.

Por qué los detectores tradicionales no alcanzan

El problema de fondo es técnico y filosófico a la vez. Los modelos generativos actuales producen contenido que evade los detectores clásicos basados en patrones estadísticos o marcas de agua visibles. Cada nueva versión de GPT, Claude, Gemini o de los modelos de difusión de imágenes reduce las señales que los algoritmos de detección aprendían a identificar. Es una carrera armamentística donde los generadores siempre llevan ventaja, porque pueden entrenarse específicamente para burlar detectores existentes.

Pangram, junto con otras startups del sector como Originality.ai, GPTZero o Hive, ha optado por enfoques distintos: entrenar sus propios modelos con datasets masivos de contenido humano y sintético, buscando no solo señales superficiales sino patrones estructurales más profundos. Sin embargo, Spero reconoce que la tasa de falsos positivos y negativos sigue siendo un obstáculo crítico, especialmente cuando el costo de equivocarse es alto. Marcar como IA un ensayo universitario escrito genuinamente puede destruir una carrera; dejar pasar un fraude puede costar millones.

El contexto importa más que el detector

Lo que Spero plantea, y que resulta clave para los profesionales tech, es que la detección aislada ha muerto como estrategia. El futuro pasa por sistemas integrados en plataformas: herramientas que analizan metadatos, patrones de escritura a lo largo del tiempo, comportamiento del usuario y señales contextuales. LinkedIn, por ejemplo, ya experimentó con exigir verificación de identidad ante la avalancha de perfiles con fotos perfectamente generadas. Amazon y plataformas de e-commerce lidian a diario con reseñas sintéticas que inflan o hunden productos.

El sector asegurador es quizás donde la tensión es más visible. Las aseguradoras procesan millones de evidencias fotográficas tras siniestros: daños en vehículos, propiedades afectadas por inundaciones, lesiones documentadas. Si un asegurado puede generar una imagen hiperrealista de un daño que nunca ocurrió, el modelo de negocio completo queda expuesto. La detección aquí no es cosmética; es antifraude puro.

Qué implica para el ecosistema hispanohablante

Para los profesionales tech en España y Latinoamérica, este escenario abre varias lecturas. Primero, existe una oportunidad de mercado clara: la mayoría de detectores están entrenados predominantemente con contenido en inglés, lo que deja un hueco enorme para soluciones especializadas en español y sus variantes regionales. Segundo, las regulaciones que vienen —como la Ley de IA de la Unión Europea, que exige etiquetado de contenido sintético— necesitarán herramientas de verificación robustas para tener dientes reales. Tercero, y quizás lo más estratégico, las empresas que integren verificación de autenticidad en sus flujos ganarán una ventaja competitiva difícil de replicar.

La reflexión de fondo que deja Spero es incómoda pero necesaria: en un mundo donde cualquiera puede producir contenido indistinguible del real, la confianza se ha convertido en el recurso más escaso y valioso de la economía digital. Y construirla requerirá algo más que buenos detectores: exigirá repensar cómo verificamos la identidad, la autoría y la intención detrás de cada interacción digital.