En un giro dramático de los acontecimientos, un ciudadano de Florida, Robert Dillon, se encuentra ahora en medio de una demanda contra varias agencias de policía tras haber sido arrestado por un algoritmo de reconocimiento facial que lo identificó erróneamente como el autor de un intento de abuso infantil. El caso, que se desarrolló en la ciudad de Jacksonville Beach, destaca las complejidades éticas y legales de la inteligencia artificial (IA) en el sistema de justicia penal.

El incidente comenzó cuando la policía local recibió una solicitud de la policía de la zona de McDonald’s, donde un hombre fue visto en vídeo intentando persuadir a una niña menor de 12 años para que lo acompañara. La cámara de seguridad captó una imagen del sospechoso, y el departamento de Jacksonville Beach utilizó un software de reconocimiento facial de terceros para compararla con su base de datos.

El algoritmo, según la propia policía, reveló una probabilidad del 93 % de que el hombre en el vídeo fuera Robert Dillon. Este número, a primera vista, parece convincente, pero la precisión del 93 % se basa en la calidad de la imagen, la iluminación y la posición del rostro, factores que pueden alterar significativamente la exactitud de los resultados.

Con base en la “alta probabilidad” del algoritmo, Dillon fue arrestado en su propia casa, donde vivía a más de 300 km de la zona del incidente. Según su abogado, la policía no verificó adecuadamente la identidad del sujeto antes de proceder con el arresto y la detención.

El resultado fue un arresto y una acusación de intento de abuso infantil. Sin embargo, la fiscalía retiró los cargos poco después, admitiendo que la evidencia de IA no era concluyente. Aun así, Dillon se enfrenta a una demanda por daños y perjuicios contra los departamentos de policía involucrados y el proveedor del software de reconocimiento facial.

El caso es un recordatorio de los riesgos inherentes a la adopción temprana de tecnologías de IA sin una supervisión adecuada. El reconocimiento facial, aunque prometedor, está sujeto a sesgos de género, raza y edad, así como a errores técnicos que pueden tener consecuencias devastadoras.

Reclamos de la industria sobre la fiabilidad del reconocimiento facial no han pasado desapercibidos. En 2022, el Comité de Ética de la IA de la Universidad de Stanford publicó un informe que detallaba la tasa de error de los sistemas de reconocimiento facial en diferentes poblaciones, revelando una mayor tasa de falsos positivos en personas de piel oscura.

El caso de Dillon también resalta la necesidad de un marco regulatorio claro. La falta de estándares nacionales en EE. UU. para la validación y supervisión de algoritmos de IA policial ha llevado a una gama de prácticas inconsistentes. Mientras tanto, la Comisión Federal de Comercio (FTC) ha emitido directrices sobre la protección de datos personales en IA, pero su alcance es limitado.

Para los profesionales de la tecnología, el caso plantea preguntas críticas: ¿qué criterios deben cumplir los algoritmos antes de ser desplegados en la práctica policial? ¿Cómo se pueden integrar los controles de calidad y la supervisión humana para evitar errores costosos?

La respuesta pasa por la adopción de prácticas de “IA responsable”, que incluyen la auditoría continua de los modelos, la transparencia en los algoritmos y la participación de la comunidad en la definición de los parámetros éticos. Además, la creación de un registro público de incidentes de IA policial podría servir como mecanismo de rendición de cuentas.

El impacto de este caso va más allá de la esfera legal; también afecta la percepción pública de la IA en la seguridad. Si la tecnología que promete mejorar la eficacia policial produce errores graves, la confianza en la IA como herramienta de justicia se erosiona.

Para los profesionales tech, es fundamental entender que la tecnología no es neutral. La forma en que se implementa y supervisa determinará si el reconocimiento facial será una herramienta de justicia o un arma de injusticia.

En conclusión, el caso de Robert Dillon sirve como advertencia de los peligros de confiar ciegamente en algoritmos sin la debida validación. La industria de la IA debe avanzar hacia estándares más rigurosos y transparentes, y los legisladores necesitan cerrar las lagunas regulatorias que permiten la utilización de tecnología no probada en la esfera pública.

A medida que la IA continúa permeando el sistema de justicia, la demanda de Dillon podría marcar un precedente importante para la responsabilidad corporativa y gubernamental en la adopción de tecnologías de reconocimiento facial.