El pasado lunes, un cliente de la sucursal de Sainsbury's en el barrio de West London experimentó una inesperada y humillante experiencia al ser identificado por la cámara de reconocimiento facial como un posible hurto, lo que provocó su expulsión del establecimiento.

Matt Arnold, de 46 años, relató que la situación le dejó «embarazado, mortificado, humillado y sin poder», expresiones que subrayan el impacto emocional de una tecnología que, en teoría, busca agilizar la seguridad del negocio.

La cadena de supermercados, que había implementado el sistema Facewatch de la empresa tecnológica John Lewis para detectar comportamientos sospechosos, activó el protocolo de expulsión automática cuando la IA marcó al cliente como un infractor, pese a la ausencia de cualquier evidencia de falta de pago.

Los expertos señalan que los fallos pueden deberse a varios factores, entre ellos la inexactitude del algoritmo frente a personas de complexión y tono de piel diferentes, la falta de calibración adecuada de las cámaras en entornos con iluminación variable, y la posible intervención humana que, al revisar la alerta, no verificó la veracidad del aviso antes de actuar.

Ante la denuncia, Sainsbury's anunció la suspensión inmediata del uso del sistema en esa tienda y comprometió una revisión exhaustiva de sus procesos, señalando que «el error fue atribuible a un error humano y no a la tecnología en sí», según declaraciones del portavoz corporativo.

El incidente se produce en un contexto de creciente adopción de IA en el sector minorista, donde cadenas como Tesco, Walmart y Carrefour están probando soluciones de visión por computadora para optimizar la experiencia del cliente y prevenir pérdidas, pero también generan debates sobre privacidad, sesgo algorítmico y derechos del consumidor.

Desde el punto de vista legal, el uso de sistemas de reconocimiento facial en espacios privados está regulado por el Reglamento General de Protección de Datos (RGPD) de la Unión Europea y la Ley de Protección de Datos del Reino Unido, los cuales exigen un aviso claro al público y el consentimiento explícito cuando se tratan datos biométricos, lo que plantea interrogantes sobre si los clientes fueron informados debidamente antes de que la IA comenzara a monitorearlos.

En respuesta a incidentes similares en otros mercados, retailers como Amazon y Target han suspendido temporalmente sus pruebas de IA de detección de comportamientos, mientras que organizaciones de consumidores exigen la creación de códigos de conducta que establezcan límites claros para la aplicación de tecnologías de vigilancia, a fin de evitar que la eficiencia comercial se convierta en una amenaza a la dignidad humana.

Organizaciones de defensa de los derechos humanos han advertido que la falta de transparencia en los sistemas de vigilancia automatizada puede vulnerar libertades fundamentales, y han instado a las compañías a implementar auditorías independientes y mecanismos de reporte claros para los usuarios que se vean afectados por errores.

En última instancia, el caso de Sainsbury's ilustra la necesidad de equilibrar la innovación tecnológica con la responsabilidad social, recordando que la confianza del público se construye cuando las empresas demuestran que sus herramientas están bajo control y que los errores pueden corregirse sin recurrir a la expulsión indiscriminada de sus clientes.