Investigadores de seguridad han revelado una nueva amenaza que pone en jaque la confianza en los modelos de lenguaje más avanzados: la técnica denominada HalluSquatting. Este método explota una limitación inherente de los grandes modelos de lenguaje (LLM): su dificultad para reconocer cuándo no poseen la información necesaria y, en su lugar, generar respuestas plausibles pero totalmente fabricadas, conocidas como alucinaciones. Al manipular cuidadosamente los prompts enviados a estos sistemas, los atacantes pueden inducir a la IA a producir fragmentos de código malicioso, comandos de shell o incluso instrucciones para reclutar dispositivos comprometidos, todo ello sin que el modelo emita una advertencia de incertidumbre.\n\nEl estudio señala nueve plataformas de IA de amplio uso que resultan vulnerables a este vector. Entre ellas se encuentran versiones recientes de GPT‑4 y GPT‑3.5 de OpenAI, los modelos Claude 2 y Claude 3 de Anthropic, Llama 2 y sus variantes de Meta, el modelo PaLM 2 de Google, así como herramientas de código abierto como Mistral y Falcon. Aunque cada proveedor implementa filtros de seguridad, los investigadores demostraron que mediante prompts diseñados para forzar una respuesta definitiva —por ejemplo, preguntando por una versión inexistente de una biblioteca o solicitando un script que supuestamente optimiza el rendimiento de un dispositivo— los LLM tienden a inventar detalles técnicos que, cuando se ejecutan, pueden descargar payloads o abrir puertos traseros en sistemas conectados a Internet.\n\nUna vez obtenido ese código fraudulento, los atacantes lo integran en scripts de automatización que se distribuyen a través de repositorios públicos, foros de desarrolladores o incluso paquetes npm y PyPI aparentemente legítimos. Cuando esos scripts se ejecutan en dispositivos IoT, servidores mal configurados o estaciones de trabajo de desarrolladores, se establece una comunicación con un servidor de comando y control (C2) bajo el dominio del atacante. De esta manera, se consigue reclutar cientos de miles de nodos en una botnet capaz de lanzar ataques DDoS, minar criptomonedas o exfiltrar datos sensibles, todo mientras la actividad parece originarse de consultas legítimas a servicios de IA.\n\nEl hallazgo resulta particularmente preocupante para profesionales tecnológicos porque pone de manifiesto que la seguridad de los sistemas de IA no se limita a proteger los modelos frente a adversarial examples o a la extracción de datos de entrenamiento. La fiabilidad de la salida —especialmente la tendencia a evitar la frase \"no sé\"— se convierte en un vector de explotación que puede evadir detecciones basadas en firmas en firmas de malware tradicionales. Las empresas que integran LLMs en pipelines de DevOps, chatbots de atención al cliente o asistentes de código deben reconsiderar la confianza implícita que depositan en las respuestas generadas y aplicar capas de validación adicionales.\n\nPara mitigar el riesgo, los expertos recomiendan varias estrategias: implementar filtros de salida que bloqueen la generación de comandos de sistema o rutas de archivo sospechosas; usar clasificadores de confianza que estimen la probabilidad de alucinación y, ante umbrales bajos, devuelvan una respuesta segura o solicite clarificación al usuario; aplicar principio de menor privilegio a los entornos donde se ejecutan los scripts generados por IA; y mantener actualizados los inventarios de dependencias para detectar rápidamente paquetes maliciosos insertados mediante técnicas de squatting. Asimismo, algunos proveedores ya están experimentando con mecanismos de \"refusal\" más robustos, que obligan al modelo a expresar incertidumbre cuando la pregunta supera su conocimiento entrenado.\n\nEn última instancia, el caso de HalluSquatting subraya la necesidad de una visión holística de la seguridad en la era de la IA generativa. No basta con proteger el modelo frente a ataques de inversión o poisoning; también es fundamental garantizar que sus salidas no puedan ser convertidas en herramientas de compromiso. Para los profesionales tech hispanohablantes, este desarrollo representa una llamada de acción: revisar los flujos de trabajo que dependen de LLMs, incorporar auditorías de salida y fomentar una cultura de escepticismo controlado frente a la aparente omniscience de la inteligencia artificial.