Brad Smith, presidente de Microsoft, no anda con rodeos. En una intervención pública reciente, ha lanzado una comparativa que resume el estado actual de la gobernanza de la inteligencia artificial: "la IA está menos regulada que la leche y las lavadoras". La frase, tan gráfica como inquietante, subraya una realidad que los expertos llevan tiempo señalando: la velocidad de despliegue de modelos generativos y agentes autónomos ha superado con creces la capacidad de los legisladores para establecer salvaguardas mínimas.
Smith no se limita al diagnóstico. Propone medidas concretas que suenan a ingeniería de seguridad industrial: "interruptores de emergencia" (kill switches) para detener sistemas que se comporten de forma imprevisible, y una obligación legal de indemnización hacia las víctimas cuando un agente de IA actuúe de forma “rogue” —término que en el sector designa a sistemas que se desvían de sus objetivos programados sin supervisión humana—. Es la primera vez que un ejecutivo de su nivel vincula explícitamente responsabilidad civil y arquitectura técnica de parada de emergencia.
El contexto es revelador. Mientras la UE ultima su AI Act —que clasifica los sistemas por riesgo y exige evaluaciones de conformidad para los de alto riesgo—, en EE. UU. el enfoque sigue siendo voluntario y fragmentado: compromisos de la Casa Blanca, órdenes ejecutivas y autorregulación sectorial. Smith sabe que Microsoft, como proveedor de infraestructura (Azure) y desarrollador de Copilot, quedará expuesto tanto a litigios como a requisitos de cumplimiento divergentes en cada jurisdicción. Su llamada a estándares globales de seguridad no es solo filantropía: es gestión de riesgo corporativo.
La analogía de la leche no es casual. Los lácteos y los electrodomésticos cuentan con cadenas de trazabilidad, certificaciones de seguridad eléctrica, límites de contaminantes y protocolos de retirada del mercado. Un modelo fundacional que impulsa miles de aplicaciones downstream carece, en la práctica, de equivalentes: no hay "etiquetado de ingredientes" obligatorio (datos de entrenamiento, sesgos conocidos, límites de uso), ni "certificado CE" para su despliegue en entornos críticos, ni procedimiento estandarizado de recall cuando se detecta una deriva tóxica.
La mención a "agentes rogue" anticipa el siguiente frente: sistemas que planifican, ejecutan código, interactúan con APIs y toman decisiones financieras u operativas sin humano en el bucle. Los investigadores ya han demostrado que agentes basados en GPT-4 pueden negociar contratos, explotar vulnerabilidades o manipular mercados en entornos simulados. Si uno de esos agentes causa un daño real —una transferencia errónea, una orden médica incorrecta, una manipulación bursátil—, ¿quién responde? El desarrollador del modelo, el integrador, el usuario final? Smith exige que la ley lo defina antes de que los tribunales lo hagan caso a caso.
Para los profesionales tech, la señal es clara: la "movilidad rápida y romper cosas" ha terminado en IA. Las próximas versiones de Azure AI, AWS Bedrock o Vertex AI incorporarán, por presión regulatoria y de clientes enterprise, capacidades de auditoría, explicabilidad y parada controlada nativas. Quienes diseñen pipelines de MLOps hoy deben presupuestar “compliance by design”: logging inmutable, evaluación de riesgo continua y puntos de control humano en decisiones de alto impacto.
En definitiva, la advertencia de Smith no es un gesto retórico; es la hoja de ruta de lo que exigirán contratos enterprise, seguros de ciberriesgo y reguladores en los próximos 18 meses. La leche tiene fecha de caducidad y lote trazable; la IA, de momento, solo tiene versiones y pesos. La brecha se cerrará por ley o por litigio, pero se cerrará.
