La inteligencia artificial no ha dejado de crecer en capacidad técnica. Cada trimestre vemos modelos que superan récords en benchmarks, resuelven problemas complejos y generan código funcional con una velocidad que hace solo unos años parecía ciencia ficción. Sin embargo, un dato reciente ha encendido las alarmas en la comunidad tech: mientras la IA se vuelve extraordinariamente capaz, su nivel de seguridad no avanza al mismo ritmo.

El caso de SWE-bench es emblemático. Este benchmark, diseñado para medir la capacidad de los modelos de IA para resolver incidencias reales de software en repositorios de GitHub, acaba de cruzar la barrera del 100% de resolución. Es un hito impresionante que demuestra que la IA puede abordar prácticamente cualquier tarea de ingeniería de software que un humano plantee. Pero aquí viene el dato que debería preocupar a todos los profesionales del sector: la seguridad del código generado sigue estancada en torno al 56%.

Esto significa que, aunque la IA puede resolver problemas de software de forma casi perfecta, más de la mitad de lo que produce contiene vulnerabilidades potenciales. No estamos hablando de errores menores ni de fallos cosméticos. Hablamos de fallos de seguridad que podrían exponer sistemas enteros, filtrar datos sensibles o abrir puertas a ataques informáticos.

Esta brecha entre capacidad y seguridad no es un problema menor. Es la definición exacta de lo que ocurre cuando la innovación supera a la regulación y a las buenas prácticas. Las empresas están integrando herramientas de IA generativa en sus pipelines de desarrollo a toda velocidad, convencidas de que están ganando productividad. Pero muchas no están invirtiendo el mismo esfuerzo en auditar, validar y asegurar el código que estos sistemas producen.

El problema se agrava cuando pensamos en el ecosistema global del software. Miles de desarrolladores usan asistentes de IA como Copilot, Cursor o Code Llama para escribir funciones, clases y módulos completos. Si una fracción significativa de ese código contiene fallos de seguridad, el efecto multiplicador es enorme. Un solo repositorio comprometido puede afectar a cientos de aplicaciones downstream, creando una cadena de vulnerabilidades en cascada.

Los expertos en ciberseguridad llevan años advirtiendo sobre este fenómeno. La llamada "velocidad de la IA" no solo se refiere a lo rápido que los modelos aprenden y mejoran, sino también a lo rápido que los errores pueden propagarse. Cuando un modelo genera código inseguro y miles de desarrolladores lo copian y adaptan, el problema deja de ser individual para convertirse en sistémico.

¿Por qué la seguridad va tan retrasada? Hay varias razones fundamentales. Primero, los benchmarks de seguridad son más difíciles de estandarizar que los de capacidad general. La seguridad del código depende del contexto, del entorno de ejecución y de las amenazas específicas, lo que hace que medir el progreso sea mucho más complejo. Segundo, la industria ha priorizado históricamente la funcionalidad sobre la seguridad, un patrón que se repite desde los inicios de la informática. Y tercero, las herramientas de evaluación de seguridad impulsadas por IA aún están en fases tempranas de madurez.

La solución no pasa por frenar el desarrollo de la IA, algo que resulta imposible e indeseable. Pasa por construir infraestructuras de validación más robustas, integrar pruebas de seguridad automatizadas en cada etapa del pipeline y, sobre todo, cambiar la cultura organizacional para que la seguridad no sea una reflexión tardía sino un requisito desde el primer día.

Los 56% de seguridad en código generado por IA no son solo un número. Son una llamada de atención para desarrolladores, líderes técnicos y responsables de políticas que deben entender que la próxima frontera de la IA no es ser más inteligente, sino ser más segura. La pregunta no es si la IA podrá resolver cualquier problema de software, sino si estaremos preparados para gestionar los riesgos que eso conlleva.

Mientras tanto, la brecha entre lo que la IA puede hacer y lo que puede hacer de forma segura sigue creciendo. Y el tiempo, como siempre, corre en su contra.