El reciente incidente de seguridad en los sistemas de Medicare en Australia ha reavivado el debate sobre la inteligencia artificial y sus riesgos reales. Un chatbot que recibió la instrucción "find Australian medicine statistics" habría provocado una vulneración de datos sensibles, y la reacción inmediata fue señalar a la inteligencia artificial como culpable. Pero, como argumenta el economista y analista John Quiggin en un artículo publicado por The Guardian, esta narrativa es peligrosamente simplista.

La comparación que plantea Quiggin es reveladora. Cuando Telstra y Optus sufrieron sendas caídas masivas de sus redes —que dejaron a miles de australianos sin poder comunicarse de emergencia—, nadie culpó a las máquinas. La responsabilidad se atribuyó directamente a las corporaciones que operaban esos sistemas. Sin embargo, cuando un chatbot genera resultados problemáticos, el foco se desvía hacia la tecnología misma, como si fuera un agente autónomo con voluntad propia.

Esta tendencia a personificar la IA no es nueva. Hace aproximadamente setenta años, cuando se acuñó por primera vez el término "inteligencia artificial", los primeros ordenadores centrales —absolutamente primitivos según los estándares actuales— ya generaban asombro y temor en partes iguales. Existían incluso programas diseñados para emparejar personas según compatibilidad, los precursores de los actuales algoritmos de citas digitales, y ya entonces circulaban debates sobre si las máquinas podrían "pensar".

Lo que ha cambiado no es la naturaleza de la tecnología, sino la escala de su despliegue y la velocidad a la que se integra en infraestructuras críticas sin marcos regulatorios claros. Los modelos de lenguaje actuales, como los que impulsan asistentes conversacionales y agentes automatizados, son sistemas estadísticos complejos que carecen de intencionalidad. No "deciden" filtrar datos ni "eliguen" vulnerar un sistema: simplemente procesan entradas según patrones aprendidos, a menudo sin supervisión humana adecuada.

El verdadero problema, entonces, no es la inteligencia artificial en sí, sino la ausencia de mecanismos de responsabilidad cuando las cosas salen mal. Quien diseña el prompt, quien entrena el modelo, quien despliega el sistema y quien lo integra en servicios públicos o privados debe poder ser identificado y, en su caso, sancionado. Sin esta cadena de responsabilidad clara, el discurso sobre el "peligro de la IA" sirve como cortina de humo para evitar debates incómodos sobre gobernanza corporativa.

Para los profesionales tech hispanohablantes, este debate tiene implicaciones directas. En España, la Ley de Inteligencia Artificial de la UE —el AI Act— entra en vigor con un enfoque basado en niveles de riesgo, pero su implementación práctica aún está por verse. En Latinoamérica, países como México, Colombia y Argentina apenas comienzan a desarrollar marcos normativos propios, mientras que empresas tecnológicas multinacionales despliegan sus modelos sin adaptaciones locales significativas.

El caso de Medicare es una advertencia. Si un sistema de salud público puede ser comprometido por una instrucción mal diseñada, las implicaciones para sectores como finanzas, educación y administración de justicia son enormes. La solución no es frenar la innovación, sino construir ecosistemas donde la responsabilidad recaiga donde siempre debió recaer: en las organizaciones humanas que crean, despliegan y benefician de estas tecnologías.

La IA no necesita ser demonizada ni ingenuamente celebrada. Necesita ser comprendida, regulada y, sobre todo, auditada. Y eso exige profesionales capacitados, marcos legales robustos y una ciudadanía tecnológica que exija transparencia sin caer en el sensacionalismo.