Cuando un lote de medicamentos presenta defectos, la industria farmacéutica activa un protocolo milimétrico: identifica el lote, lo retira del mercado y notifica a las autoridades. Es un sistema de contención lineal y efectivo. Trasladar ese modelo a la inteligencia artificial, sin embargo, es como intentar detener un río con una red de pesca. La analogía, atractiva por su sencillez, se desmorona al primer contacto con la realidad técnica.
La propuesta de algunos reguladores de aplicar mecanismos de "recall" o retirada de producto a los sistemas de IA revela una incomprensión fundamental de su arquitectura. Un modelo de lenguaje grande (LLM) o un sistema de recomendación no son artefactos sellados. Son ecosistemas vivos, entrenados con datos en constante evolución, ajustados por retroalimentación en tiempo real y desplegados en capas sobre infraestructuras complejas. ¿Cómo se "retira" un algoritmo que ya está integrado en mil aplicaciones, que ha sido modificado por sus desplegadores y cuyos efectos son emergentes, no predecibles?
El problema central es la escalabilidad y la atribución. Un fármaco actúa sobre biología humana, con mecanismos de acción relativamente conocidos y efectos adversos trazables a un compuesto específico. Una IA genera "daños" sistémicos y difusos: desde la amplificación de sesgos en procesos de contratación hasta la generación de desinformación viral. Aislar la "dosis" culpable —fue el dataset, el ajuste fino, el prompt del usuario o la interacción entre sistemas— es una tarea forense de una complejidad abrumadora.
Más aún, la velocidad de iteración de la tecnología hace obsoleto cualquier protocolo de retirada. Para que un recall funcione, el ciclo de detección, decisión y acción debe ser más rápido que el ciclo de daño. En IA, el daño puede propagarse a la velocidad de la información digital, mientras que los procesos regulatorios se mueven en tiempo institucional. Para cuando se identifica un problema y se ordena una retirada, el modelo ya ha sido actualizado, bifurcado o reemplazado por una nueva versión.
Esto no significa que la IA deba operar en un vacío regulatorio. Significa que necesita un paradigma propio, basado en la gobernanza de sistemas complejos y adaptativos. En lugar de pensar en "retirar productos", debemos pensar en "supervisión continua". Esto implica auditorías en tiempo real, trazabilidad de datos y decisiones algorítmicas (lo que se conoce como "AI lineage"), y mecanismos de apagado o degradación controlada para sistemas de alto riesgo.
El enfoque debe ser preventivo y en capas, similar a la ciberseguridad: no se espera a que un virus cause estragos para actuar, sino que se implementan cortafuegos, monitorización y respuestas automatizadas. Para la IA, esto se traduce en "sandboxes" regulatorios para pruebas, obligaciones de transparencia sobre capacidades y límites, y la creación de "circuit breakers" que puedan aislar comportamientos dañinos sin paralizar sistemas completos.
La lección para legisladores y profesionales tech es clara: los marcos de gobernanza deben ser tan dinámicos y aprendices como la tecnología que pretenden regular. Copiar y pegar el manual de la FDA para aplicarlo a OpenAI o a un sistema de IA generativa es una receta para el fracaso. La verdadera innovación regulatoria está en diseñar instituciones que puedan navegar la incertidumbre, no en forzar realidades nuevas en moldes del siglo XX.
