El caso Williams: cuando la IA de reconocimiento facial envía a un inocente a la cárcel
La inteligencia artificial prometía un futuro más eficiente, más objetivo, más justo. Pero ¿qué sucede cuando esos algoritmos heredan —y amplifican— los peores prejuicios humanos? El episodio cinco del podcast Black Box del Guardian, titulado 'La máscara blanca', explora uno de los casos más troublantes de los últimos años: la detención errónea de Robert Williams, un hombre afroamericano de Detroit que fue arrestado en enero de 2020 por un crimen que nunca cometió.
La policía no tenía testimonios ni informantеs. Lo que tenían era una herramienta de reconocimiento facial que, según ellos, había identificado a Williams como el responsable de un robo. El problema es que la tecnología de reconocimiento facial ha demostrado consistentemente tener mayores tasas de error cuando se trata de personas con tonos de piel más oscuros. Y este no es un fallo técnico menor: es un problema sistémico que puede destruir vidas.
Contexto histórico necesario
Para entender la magnitud del problema, hay que retroceder несколько лет. Los sistemas de reconocimiento facial se han desplegado masivamente en aeropuertos, estadios, centros comerciales y, por supuesto, en las bases de datos de las fuerzas de seguridad. Empresas como Clearview AI han acumulado miles de millones de fotos sin consentimiento, vendiendo sus servicios a agencias gubernamentales en todo el mundo.
Sin embargo, la evidencia científica es contundente: estos sistemas cometen errores desproporcionados con personas racializadas. Un estudio del MIT de 2018 reveló que los algoritmos de reconocimiento facial de empresas como IBM, Microsoft y Amazon tenían tasas de error significativamente mayores para mujeres con piel oscura. Esto no es casualidad: los conjuntos de datos con los que se entrenan estos modelos están sesgados desde su origen.
El caso de Williams no es aislado. En 2019, la ACLU de Michigan documentó al menos otros dos casos similares donde personas inocentes fueron identificadas erróneamente por sistemas de reconocimiento facial. Y aunque Williams finalmente fue liberado, el daño ya estaba hecho: una detención humillante, antecedentes penales temporales, y la huella psicológica de ser tratado como sospechoso por una máquina.
Implicaciones para América Latina
Aunque este caso ocurrió en Estados Unidos, las implicaciones trascienden fronteras. En países como México, Brasil y Colombia, los gobiernos están implementando cada vez más sistemas de vigilancia basados en IA. Sin las salvaguardas adecuadas, estos países podrían estar replicando —y posiblemente amplificando— los mismos errores.
México, por ejemplo, ha experimentado con tecnología de reconocimiento facial en el Metro de la Ciudad de México. Sin una regulación clara y auditorías independientes, estos sistemas podrían afectar desproporcionadamente a comunidades indígenas y personas de bajos ingresos.
¿Qué se puede hacer?
El episodio del podcast señala varias direcciones promissoras. Primero, se necesitan estándares de transparencia: las fuerzas de seguridad que utilizan reconocimiento facial deben disclose públicamente qué sistemas usan y cómo los auditan.
Segundo, se requieren moratorias temporales en el uso policial de estas tecnologías hasta que se implementen salvaguardas efectivas. Varias ciudades estadounidenses, incluyendo San Francisco y Boston, ya han prohibido el reconocimiento facial por parte de la policía.
Tercero, y quizás más importante, las comunidades afectadas deben tener voz en cómo se despliega esta tecnología. No puede ser que decisiones que impactan desproporcionadamente a minorías se tomen sin su participación.
El caso de Robert Williams nos recuerda que la IA no es neutral. Cuando entrenamos algoritmos con datos sesgados y los desplegamos en sistemas de vigilancia sin supervisión adecuada, estamos automatizando la injusticia. La pregunta ya no es si la tecnología puede cometer errores, sino cuándo —y quién pagará el precio de esos errores.
El episodio 'La máscara blanca' de Black Box es un recordatorio incómodo de que, en la carrera por la innovación, no podemos dejar atrás los derechos fundamentales. Porque una sociedad que confía en algoritmos opacos para administrar justicia no es la sociedad que nadie quiere construir.
Este podcast merece ser escuchado —no solo por lo que revela sobre el caso Williams, sino por lo que nos obliga a reflexionar sobre el futuro que estamos construyendo con y para la inteligencia artificial.
