Durante décadas, la seguridad robótica se definió por una pregunta sencilla: ¿puede una máquina seguir funcionando de forma segura si algo falla mecánicamente? Esa visión, centrada en engranajes, sensores y actuadores, ha sido el pilar de la ingeniería industrial desde el siglo XX. Pero la irrupción de la Inteligencia Artificial física —robots que perciben, interpretan y actúan en entornos reales mediante modelos de IA— ha cambiado las reglas del juego por completo.

Hoy, la pregunta urgente es otra: ¿puede una máquina permanecer segura cuando un atacante altera lo que ve, decide o hace, aunque técnicamente nada haya fallado?

Los robots contemporáneos no siguen secuencias de comandos rígidas. Procesan información de múltiples sensores simultáneamente, interpretan el contexto con modelos de lenguaje y visión, y traducen esas interpretaciones en movimiento físico. Esta arquitectura, conocida como modelos Visión-Lenguaje-Acción (VLA), permite una flexibilidad sin precedentes, pero también introduce una vulnerabilidad que los marcos tradicionales de seguridad no están diseñados para evaluar.

La integridad de los datos que alimentan estas decisiones se ha convertido en el nuevo punto crítico de fallo. Y lo que preocupa a los investigadores no es un escenario teórico: ya existen demostraciones concretas de cómo manipular la percepción de un robot puede cambiar radicalmente su comportamiento.

En 2017, el equipo detrás de BadNets evidenció algo inquietante. Un modelo de IA podía comportarse con total normalidad en condiciones habituales, pero fallar estrepitosamente ante un patrón oculto específico. En una demostración memorable, una marca imperceptible en un cartel de stop hacía que el sistema lo clasificara erróneamente como un límite de velocidad. El modelo funcionaba perfectamente con todo lo demás.

Lo que comenzó como una vulnerabilidad de clasificación ha evolucionado hacia algo mucho más peligroso: la manipulación directa de acciones físicas. En la conferencia NeurIPS 2025, investigadores presentaron BadVLA, un ataque de puerta trasera dirigido específicamente a modelos VLA. La diferencia con los ataques anteriores es radical: en lugar de cambiar una etiqueta de salida, BadVLA altera las trayectorias de acción del robot cuando un disparador específico está presente en el entorno. Sin el disparador, el robot ejecuta sus tareas con total normalidad, lo que hace que la manipulación sea prácticamente invisible.

Lo más preocupante es que estos ataques sobreviven incluso cuando el modelo se ajusta mediante fine-tuning o se transfiere a tareas diferentes, lo que significa que no se pueden eliminar simplemente reentrenando el sistema.

El verdadero desafío radica en la complejidad del ecosistema robótico moderno. Un ataque no necesita infiltrarse directamente en el control del robot; puede introducirse en cualquier punto de su cadena de procesamiento: desde los datos de entrenamiento hasta la infraestructura del sistema, pasando por la percepción en tiempo real. Cada capa representa un punto de entrada potencial en una superficie de ataque multinivel que abarca pipelines de entrenamiento, infraestructura computacional y percepción en ejecución.

Esto tiene implicaciones enormes para sectores que ya están desplegando robots con IA en almacenes, fábricas, servicios de salud y entornos urbanos. Si la seguridad física de estos sistemas depende de la integridad de los datos, entonces cualquier estrategia de ciberseguridad aplicada a la robótica debe repensarse desde los cimientos.

La industria de la robótica se encuentra en un momento de inflexión. Las inversiones en robots autónomos se disparan, y las previsiones de mercado apuntan a millones de unidades operativas en los próximos años. Sin embargo, los estándares de seguridad aún no han evolucionado al ritmo de la tecnología. Los marcos regulatorios y las certificaciones industriales siguen enfocándose en riesgos mecánicos y funcionales, mientras que la amenaza de ataques adversarios permanece en gran parte inexplorada.

Lo que los hallazgos recientes nos muestran es que la seguridad de los robots de IA no es solo un problema de ingeniería mecánica ni exclusivamente de ciberseguridad informática. Es un problema híbrido que exige colaboración entre ambas disciplinas, y que requiere una nueva generación de herramientas de evaluación capaces de detectar comportamientos anómalos inducidos por manipulación de datos.

La carrera por proteger a los robots antes de que los robots nos protejan a nosotros acaba de comenzar.