Las fuerzas de seguridad en Inglaterra y Gales han recibido instrucciones para pausar el uso de sistemas de inteligencia artificial generativa en trabajos relacionados con el sistema judicial, incluyendo la elaboración de declaraciones para audiencias. Esta decisión responde a crecientes preocupaciones sobre la precisión, trazabilidad y responsabilidad de las herramientas comerciales de IA en contextos críticos como el ámbito penal.

El anuncio fue impulsado por Alex Murray, director del centro Police.AI, quien destacó la necesidad de una evaluación rigurosa antes de implementar estas tecnologías. Mientras que la IA generativa puede optimizar procesos administrativos, su capacidad para producir información convincente pero falsa plantea riesgos inminentes en un sistema donde la veracidad de las pruebas es fundamental.

Un caso emblemático ocurrió en noviembre de 2025, cuando la Policía de West Midlands utilizó Microsoft Copilot para preparar documentos sobre una supuesta prohibición de asistentes del Maccabi Tel Aviv en un partido contra Aston Villa. El sistema generó referencias a disturbios en un encuentro que nunca se celebró. Este error ilustra cómo la IA puede fabricar datos que, aunque plausibles, carecen de sustento real, complicando su uso en investigaciones o como evidencia legal.

En el ámbito penal, las pruebas deben tener trazabilidad: esencial establecer su origen, método de obtención y fundamento de veracidad. La IA generativa, basada en modelos de lenguaje grande, no valida la veracidad de su salida; simplemente reproduce patrones estadísticos de su entrenamiento. Incluso cuando se solicita un razonamiento algorítmico, la explicación puede ser una ficción generada, no un registro auténtico del proceso.

Esta crisis de confiabilidad resuena en un momento crítico para la regulación de la IA. La Unión Europea avanza con el marco de IA (679/2024), que clasifica a los sistemas de alto riesgo en el sector justicial como 'altamente restrictivos'. La suspensión británica podría servir como precedente para adoptar estándares más estrictos en el despliegue de herramientas de IA en entornos sensibles.

Analistas señalan que la combinación de presión por eficiencia y falta de transparencia en algoritmos comerciales crea un caldo de cultivo para errores. Mientras empresas como Microsoft promueven Copilot como solución para optimizar tareas, su integración en procesos legales exige marcos éticos y técnicos robustos. La experiencia de West Midlands subraya que la automatización sin supervisión humana puede convertir errores en pruebas contaminadas.

El futuro de la IA en la justicia dependerá de su capacidad para equilibrar innovación con responsabilidad. Mientras tanto, las fuerzas de policía deben replantearse su dependencia de tecnologías que, aunque prometedoras, no garantizan la integridad de la información. La cuestión no es solo evitar errores, sino asegurar que la justicia penal no se base en sombras de sombras.