La promesa de la inteligencia artificial generativa —eficiencia, escala, reducción de costes— ha seducido a directivos de todos los sectores. Pero mientras los pilotos se convierten en producción, una pregunta incómoda empieza a resonar en los consejos de administración y en los despachos de abogados: ¿quién responde cuando el modelo alucina, discrimina o filtración datos sensibles?

La respuesta jurídica está dejando de ser teórica. En Estados Unidos, la Comisión Federal de Comercio (FTC) ha advertido que el uso de algoritmos opacos no exime a las empresas de cumplir leyes de protección al consumidor. En Europa, el Reglamento de IA (AI Act) clasifica los sistemas de alto riesgo y exige supervisión humana efectiva, no meramente decorativa. Y en Latinoamérica, reguladores de Brasil a México estudian marcos inspirados en el estándar europeo.

El núcleo del debate no es técnico, sino organizativo. Un modelo de lenguaje grande (LLM) no tiene intención, ni patrimonio, ni capacidad de responder ante un juez. La responsabilidad recae, por tanto, en quien despliega la herramienta y en quien diseña el proceso de gobernanza alrededor de ella. "La IA no es un empleado, es una infraestructura", resume Marta Suárez, socia de derecho digital en Cuatrecasas. "Si externalizas el juicio crítico, externalizas también la culpa".

Casos recientes ilustran el riesgo. Una aerolínea canadiense fue condenada a indemnizar a un pasajero tras que su chatbot inventara una política de reembolso inexistente. El tribunal determinó que la empresa era responsable de la información que su agente virtual proporcionaba, igual que lo sería de un empleado humano mal formado. En el sector financiero, la SEC ha multado a firmas de asesoramiento por confiar ciegamente en algoritmos de "robo-advisory" que no ajustaban perfiles de riesgo a la realidad del cliente.

Ante este escenario, las compañías maduras están adoptando tres capas de defensa. Primera: inventario y clasificación de todos los sistemas de IA según criticidad y exposición regulatoria. Segunda: "human-in-the-loop" real, con protocolos de escalado, trazabilidad de decisiones y auditoría periódica de sesgos. Tercera: contratos con proveedores que incluyan cláusulas de indemnidad, transparencia de datos de entrenamiento y derecho a auditoría técnica.

Pero la tecnología también ofrece herramientas para mitigar el riesgo. Técnicas como RAG (Retrieval-Augmented Generation) reducen alucinaciones anclando respuestas a fuentes verificadas. Los guardrails semánticos y los evaluadores automáticos de seguridad (como los de NVIDIA NeMo Guardrails o LangChain) permiten filtrar salidas tóxicas o no conformes antes de que lleguen al usuario. Y las plataformas de observabilidad (MLflow, Weights & Biases, Arize) registran versiones, prompts y métricas de calidad para demostrar diligencia debida.

El mensaje para el profesional tech es claro: la ventaja competitiva no está en desplegar el modelo más grande, sino en construir el proceso más robusto alrededor de él. La IA generativa no elimina la necesidad de juicio experto; la desplaza hacia arriba, hacia la arquitectura de confianza, la definición de límites y la rendición de cuentas. Las empresas que lo entiendan evitarán titulares judiciales y, de paso, ganarán la confianza de clientes y reguladores.