El pasado mes de agosto, el Met anunció un acuerdo piloto con la empresa de tecnología de espionaje Palantir por valor de 50 millones de libras. El objetivo era introducir la plataforma de análisis de datos en las investigaciones criminales de la policía londinense, prometiendo una coordinación más rápida y una toma de decisiones más precisa mediante el tratamiento automatizado de grandes volúmenes de información. Sin embargo, el proyecto se enfrentó a una fuerte resistencia política y social, lo que llevó al alcalde de Londres, Sadiq Khan, a bloquear su realización.
La oposición de Khan surgió a partir de una combinación de preocupaciones sobre la privacidad, la transparencia algorítmica y el marco ético del uso de la IA en la aplicación de la ley. Los defensores de la privacidad señalaron que la plataforma de Palantir podía procesar datos de diversas fuentes, como registros de telefónicos, bases de datos civiles e incluso información de redes sociales, sin un control independiente claro. Además, la falta de detalles sobre los criterios utilizados por los modelos de IA para generar inteligencia planteaba dudas sobre posibles errores o sesgos que podrían afectar a personas inocentes.
Tras el veto de Khan, el Met se vio obligado a suspender el acuerdo inicial y a buscar una solución que equilibrara la necesidad de innovación tecnológica con las exigencias de supervisión pública. Ahora, la policía metropolitana ha recibido una extensión de 12 meses para continuar con el proyecto piloto mientras finaliza un proceso de contratación a más largo plazo. La ampliación fue concedida por la oficina del alcalde, lo que sugiere un intento de dar tiempo a las partes para negociar un acuerdo que cumpla las nuevas directrices de privacidad y seguridad de datos establecidas por el gobierno local.
Esta situación refleja una tendencia creciente en el Reino Unido y en otros lugares: las autoridades deben equilibrar la adopción de herramientas de IA avanzadas con estrictos mecanismos de rendición de cuentas. Expertos en regulación de IA advierten que un despliegue apresurado de tecnologías sin salvaguardias adecuadas puede erosionar la confianza pública, un activo esencial para cualquier cuerpo policial. Al mismo tiempo, la policía metropolitana afirma que la plataforma de Palantir ya ha contribuido a casos clave, agilizando la conexión de datos dispersos en situaciones de emergencia y mejorando la coordinación entre las distintas agencias.
La extensión también plantea interrogantes sobre la estrategia de adquisición futura del Met. En lugar de depender exclusivamente de un proveedor externo, es probable que la policía explore opciones para desarrollar capacidades internas de IA o asociarse con empresas locales que puedan ofrecer mayor transparencia y control sobre los algoritmos. La reciente "Estrategia de IA del Reino Unido" del gobierno alienta precisamente este enfoque: fomentar la innovación nacional y garantizar que las soluciones de IA se ajusten a los valores y normas del país.
Para los profesionales hispanohablantes de la tecnología, el caso del Met y Palantir constituye un aviso sobre los retos que conlleva la integración de la IA en los servicios públicos. La discusión pone de relieve la importancia del diseño de sistemas transparentes y justos, la necesidad de marcos regulatorios robustos y la necesidad de un diálogo continuo entre las autoridades, los desarrolladores y la sociedad civil. A medida que la IA se convierta en una herramienta cada vez más presente en la vigilancia, la aplicación de la ley y la toma de decisiones, casos como este servirán como referencia para evaluar cómo equilibrar la eficiencia tecnológica con la protección de los derechos fundamentales.
En definitiva, la ampliación de 12 meses del proyecto piloto con Palantir ofrece al Met una oportunidad para refinar su enfoque de la IA, incorporar aportaciones de las partes interesadas y preparar el terreno para un acuerdo a largo plazo que cumpla las exigencias de privacidad, rendición de cuentas y utilidad pública. El resultado de este proceso podría convertirse en un modelo para otras ciudades europeas que se enfrentan a decisiones similares sobre el uso de la IA en la seguridad pública.
