La irrupción de la inteligencia artificial en las fuerzas del orden representa uno de los desafíos más urgentes para las democracias contemporáneas. Desde la aparición de ChatGPT a finales de 2022, la adopción de herramientas de IA se ha acelerado sin que los marcos regulatorios hayan podido seguir el ritmo, generando un vacío jurídico que pone en riesgo la confianza ciudadana en las instituciones.
El problema fundamental radica en que la mayoría de estas tecnologías se implementan sin governance ni oversight adecuados. Un caso reciente en el Reino Unido ilustra esta problemática: un detective senior utilizó herramientas de IA para crear material evidencial de manera irregular en múltiples casos. En Estados Unidos y Canadá, autoridades han comenzado a publicar imágenes generadas por IA representando operativos antidroga, blurring the line between authentic evidence y fabrication.
El reconocimiento facial representa otra área de preocupación crítica. Los sistemas de IA muestran tasas de error significativamente más altas al identificar a mujeres y personas con tonos de piel más oscuros. En Dakota del Norte, el uso de esta tecnología por parte de la policía ha generado controversy sobre possibles errores de identificación y sus consecuencias para las personas afectadas.
Este contexto es particularmente relevante para América Latina, donde varias ciudades están explorando aplicaciones similares bajo el pretexto de mejorar la seguridad ciudadana. Sin embargo, la evidencia internacional sugiere que estos sistemas tienden a amplify existing biases en lugar de mitigarlos.
La justicia procesal, es decir, la percepción de equidad en los procedimientos, es fundamental para la legitimidad policial. Cuando el público no puede confiar en que las pruebas utilizadas sean auténticas, toda la estructura del sistema de justicia se ve comprometida. La situación actual exige regulación inmediata antes de que estos problemas se profundicen irreversiblemente.
