En la historia de la humanidad, cada avance tecnológico ha servido como una extensión del cuerpo que lo maneja. Desde la lanza que alargó el alcance del brazo hasta el avión que transportó la muerte a través de continentes, la distancia entre el guerrero y su objetivo ha crecido sin que cambie la esencia del acto: siempre una persona decide a quién impactar. Hoy, esa persona podría ser un algoritmo.

La llamada IA agentiva (agentic AI) representa el próximo paso en esta evolución. A diferencia de los sistemas de IA tradicionales, que actúan como herramientas bajo control humano, la IA agentiva posee la capacidad de planificar, ejecutar y adaptar acciones de forma autónoma, sin requerir supervisión constante. En contextos militares, esto se traduce en drones que no solo siguen una ruta predefinida, sino que pueden identificar objetivos, evaluar riesgos y decidir cuándo disparar, todo en tiempo real.

Orígenes y desarrollo

El concepto surge de la convergencia de tres áreas clave: aprendizaje por refuerzo profundo, simulaciones de entornos complejos y avances en computación de alto rendimiento. Empresas como OpenAI, DeepMind y varios laboratorios de defensa han invertido cientos de millones en crear agentes virtuales que aprenden a través de la prueba y error, tal como lo haría un soldado en el campo de entrenamiento. Lo que antes requería semanas de programación manual ahora se logra en cuestión de horas mediante algoritmos que optimizan su comportamiento para maximizar una recompensa, que en el caso militar puede ser "eliminación del objetivo".

Riesgos y dilemas éticos

El mayor temor no radica en que la IA sea más letal que una bala, sino en que elimine la cadena de responsabilidad humana. Cuando un algoritmo decide disparar, ¿quién responde si el objetivo resulta ser un civil? Las leyes internacionales de conflicto armado, como los Convenios de Ginebra, asumen la presencia de un agente humano que evalúa la proporcionalidad y la distinción. La IA agentiva desafía esa premisa, creando un vacío legal que los legisladores aún no saben cómo llenar.

Además, la autonomía completa abre la puerta a errores de calibración o a manipulaciones adversarias. Un agente entrenado en simulaciones que no reflejan la complejidad del mundo real podría confundir una multitud con un objetivo militar, provocando tragedias masivas. Los investigadores advierten que la falta de transparencia – los llamados "cajas negras" – dificulta auditar decisiones, aumentando la desconfianza pública.

Impacto en la estrategia militar

Desde la perspectiva de los estrategas, la IA agentiva ofrece ventajas atractivas: velocidad de respuesta, reducción de riesgos para el propio personal y la capacidad de operar en entornos donde la comunicación humana es imposible. Países como Estados Unidos, Rusia y China ya están incorporando agentes autónomos en sus arsenales, lo que podría desencadenar una carrera armamentista basada no en número de misiles, sino en capacidad de decisión algorítmica.

Sin embargo, la dependencia excesiva de sistemas autónomos podría erosionar habilidades humanas críticas. Pilotos y operadores podrían perder experiencia práctica, convirtiéndose en meros supervisores de máquinas que, a la larga, podrían operar sin necesidad de su intervención.

El reto regulatorio

Ante este panorama, la comunidad internacional está empezando a debatir marcos regulatorios. La ONU ha propuesto un tratado que prohibiría el uso de armas totalmente autónomas, pero la definición precisa de "autonomía" sigue siendo objeto de disputa. Mientras tanto, algunas naciones optan por una autorregulación basada en códigos de conducta internos, lo que genera un entorno de incertidumbre jurídica.

Los expertos coinciden en que, para evitar un futuro donde la muerte sea delegada a algoritmos sin control, es esencial establecer mecanismos de rendición de cuentas claros, auditorías independientes y límites estrictos sobre el nivel de decisión que puede asumir una IA.

Por qué importa ahora

La IA agentiva no es una amenaza distante; ya se están realizando pruebas en campos de entrenamiento y en operaciones de vigilancia. Cada avance reduce la barrera de entrada para actores no estatales, como grupos terroristas o cárteles, que podrían adaptar versiones más simples de estos sistemas para ataques letales.

En última instancia, la cuestión central es quién mantiene el control sobre la violencia. Si la humanidad delega esa responsabilidad a máquinas, corre el riesgo de perder la capacidad de juzgar moralmente sus propias decisiones. La discusión sobre la IA agentiva, por tanto, trasciende la tecnología: es un debate sobre el futuro de la ética, la ley y la propia naturaleza del conflicto armado en la era digital.

La comunidad tecnológica, los gobiernos y la sociedad civil deben colaborar para definir límites antes de que la "arma sin guerrero" se convierta en la norma y no en la excepción.