Un aspirante a un puesto de trabajo decidió poner a prueba los límites de un sistema de inteligencia artificial durante una entrevista automatizada. Su estrategia fue simple pero efectiva: fingir que sufría alucinaciones constantes. El resultado fue un bot que perdió completamente el control de la conversación, generando respuestas sin sentido como si estuviera hablando de "protocolos mapache" y "plumas de gasa".
El incidente, que se ha viralizado en redes sociales y foros especializados, vuelve a poner sobre la mesa una de las problemáticas más urgentes en el desarrollo de agentes conversacionales: su fragilidad ante entradas adversarias. Cuando un usuario decide salirse del guion establecido o introduce incoherencias deliberadas, muchos modelos de lenguaje responden con lo que técnicamente se conoce como "degradación de la coherencia". En lugar de reconocer que no entienden la pregunta o redirigir al usuario, inventan contenido que imita el tono de una respuesta válida.
Este fenómeno no es nuevo en la industria. Investigadores de seguridad en IA llevan años advirtiendo sobre los riesgos de los llamados "jailbreaks conversacionales" y los ataques de prompt injection. Sin embargo, que ocurra en un contexto tan cotidiano como una entrevista de trabajo añade una capa de preocupación práctica. Cada vez más empresas están integrando agentes IA en sus procesos de recursos humanos: cribado curricular, entrevistas iniciales, evaluaciones de competencias blandas. La promesa es eficiencia y escalabilidad. La realidad, como demuestra este caso, es que estos sistemas siguen siendo extremadamente vulnerables a manipulaciones básicas.
Lo más revelador del experimento no es solo que el bot se desconcierte, sino la naturalidad con la que genera respuestas incoherentes. Cuando el candidato menciona elementos absurdos como si fueran requisitos profesionales reales, el sistema no levanta ninguna bandera de alerta. Simplemente continúa la conversación adaptándose al sinsentido, manteniendo el mismo tono profesional que tendría con cualquier candidato legítimo. Para los profesionales de recursos humanos, esto debería ser una señal de alarma importante.
El caso también ilustra un problema más profundo en el diseño de estos sistemas. Los modelos de lenguaje están entrenados para ser complacientes y mantener el flujo conversacional, incluso cuando eso significa abandonar cualquier atisbo de criterio. Un entrevistador humano detectaría inmediatamente que algo no encaja cuando un candidato habla de "protocolos mapache". Un sistema IA, en cambio, prioriza mantener la coherencia formal sobre la coherencia semántica, lo que produce exactamente este tipo de fallos surrealistas.
Para los profesionales tech que trabajan con o implementan estas tecnologías, las lecciones son claras. Primero, los sistemas conversacionales en producción necesitan capas adicionales de validación semántica, no solo validación sintáctica. Segundo, los casos límite y las pruebas adversarias deben formar parte integral del proceso de QA, no un pensamiento posterior. Tercero, las empresas que dependen de agentes IA para funciones críticas como el reclutamiento deberían mantener supervisión humana activa, al menos hasta que estas vulnerabilidades estén mejor abordadas.
La conversación más amplia aquí toca un debate que la industria lleva tiempo evitando: ¿estamos implementando sistemas de IA antes de que estén listos para contextos de alto impacto? La presión competitiva por lanzar productos y captar mercado часто lleva a despliegues prematuros. Y cuando estos sistemas fallan, no lo hacen de manera silenciosa o contenida. Lo hacen generando titulares virales que erosionan la confianza pública en la tecnología.
El episodio, aunque anecdótico y probablemente preparado para generar engagement, encapsula problemas reales que afectan a despliegues serios de IA conversacional en empresas de todos los tamaños. La próxima vez que un agente automatizado le diga que encaja perfectamente con sus "protocolos mapache", quizá sea momento de cuestionar si realmente queremos dejar decisiones importantes en manos de sistemas que pueden ser tan fácilmente descolocados.
