En los últimos años, la inteligencia artificial se ha convertido en el nuevo aliado de las fuerzas de seguridad de todo el mundo. Desde reconocimiento facial hasta análisis de redes sociales, la promesa es clara: usar algoritmos para anticipar y prevenir delitos antes de que ocurran. Sin embargo, la experiencia de la policía de una región del Reino Unido, expuesta por una investigación de WIRED AI, pone de manifiesto que la ruta hacia la predicción del crimen está plagada de obstáculos técnicos, éticos y organizacionales.
El proyecto de predicción del crimen
A mediados de la década pasada, la autoridad policial de una zona del sur de Inglaterra decidió apostar por un "sistema de predicción del crimen" (Crime Prediction Machine, CPM). El objetivo era sencillo: alimentar a un modelo de aprendizaje automático con datos históricos de incidentes, denuncias, ubicación de patrullas y variables socio‑económicas, para generar mapas de calor que indicaran dónde y cuándo era más probable que ocurrieran delitos. Con esa información, los comandantes podrían asignar recursos de forma más eficiente, reducir tiempos de respuesta y, en teoría, disminuir la tasa de criminalidad.
El proyecto recibió una financiación considerable del gobierno y contó con la colaboración de una empresa tecnológica especializada en análisis de datos. Durante los primeros meses, el CPM entregó resultados prometedores: en ciertos distritos, la tasa de robos disminuyó en un 8% y los oficiales reportaron una mayor sensación de control operativo.
Cuando los números no cuadran
A medida que el sistema se extendió a más áreas, comenzaron a aparecer inconsistencias. WIRED AI descubrió que, en varios casos, el algoritmo asignaba un riesgo alto a zonas que históricamente mostraban muy poca actividad delictiva, mientras que otras áreas con problemas persistentes recibían una puntuación de riesgo inesperadamente baja. Al indagar, los periodistas hallaron que la causa principal era la calidad de los datos de entrenamiento.
Los registros policiales en el Reino Unido, aunque extensos, están plagados de errores de codificación, denuncias duplicadas y lagunas temporales. Además, el modelo incorporaba fuentes externas, como datos de redes sociales y patrones de consumo energético, que no estaban suficientemente validados. Cuando estos insumos se combinaron, el algoritmo empezó a generar predicciones basadas en correlaciones espurias, lo que provocó decisiones operativas equivocadas.
Falta de transparencia y supervisión
Otro punto crítico señalado por la investigación fue la ausencia de mecanismos de auditoría y de explicabilidad. Los oficiales que utilizaban el CPM recibían un mapa de calor sin información detallada sobre cómo se había llegado a cada puntuación. La opacidad del modelo dificultó que los analistas pudieran identificar y corregir los sesgos subyacentes.
En varios departamentos, la confianza en la herramienta se desmoronó rápidamente. "Nos dijeron que la IA nos diría dónde patrullar, pero cuando los resultados no coincidían con la realidad del terreno, nos quedamos sin saber por qué", comentó un oficial senior que prefirió mantenerse anónimo. La falta de una supervisión humana constante y de procesos de revisión periódica convirtió al CPM en una "caja negra" operativa.
Lecciones para la IA en la seguridad pública
El caso británico ilustra varios aprendizajes clave para cualquier entidad que quiera introducir IA en la lucha contra el crimen:
- Calidad de los datos: Un modelo solo es tan bueno como la información que se le suministra. Las fuerzas policiales deben invertir en la depuración y estandarización de sus bases de datos antes de alimentar algoritmos complejos.
- Transparencia y explicabilidad: Los usuarios finales –en este caso, los oficiales de policía– necesitan entender los factores que influyen en las predicciones. Herramientas de "explainable AI" pueden ayudar a validar y ajustar los resultados.
- Gobernanza y auditoría: Establecer comités de ética y auditorías independientes garantiza que los sistemas se revisen regularmente y que los sesgos se mitiguen.
- Integración humana: La IA debe considerarse un apoyo, no un sustituto, de la toma de decisiones policiales. La revisión humana continua es esencial para evitar errores costosos.
Por qué importa a nivel global
La presión por modernizar las fuerzas de seguridad es global. Países como Estados Unidos, Canadá y Australia ya están implementando sistemas similares, a menudo con menos recursos de supervisión que el caso británico. Si los errores descritos en el CPM no se corrigen, se corre el riesgo de crear una generación de políticas de seguridad basadas en datos defectuosos, lo que podría exacerbar desigualdades y erosionar la confianza pública.
En última instancia, la historia del "máquina de predicción del crimen" británica sirve como una llamada de atención: la IA tiene un enorme potencial, pero su despliegue debe acompañarse de rigor metodológico, responsabilidad ética y una cultura organizacional que valore la transparencia. Solo así se podrá aprovechar verdaderamente la promesa de la inteligencia artificial para hacer nuestras ciudades más seguras.
Mirando al futuro
A pesar de los tropiezos, la policía británica no ha abandonado por completo la IA. Se están revisando los modelos, incorporando procesos de validación cruzada y estableciendo paneles de supervisión con expertos externos. La comunidad tecnológica también ha respondido, ofreciendo herramientas de auditoría de sesgos y plataformas de datos abiertos que facilitan la replicación y el escrutinio independiente.
El camino está lejos de ser lineal, pero cada lección aprendida acerca a las instituciones a un uso responsable y efectivo de la inteligencia artificial. El reto ahora es transformar esas lecciones en políticas concretas que eviten que futuros proyectos repitan los mismos errores.
Este artículo forma parte de la serie de IAOnda sobre IA en el sector público, donde analizamos casos reales para extraer mejores prácticas y advertencias para profesionales tecnológicos.
