El pasado mes, el sistema de gestión basado en inteligencia artificial de Andon Labs, conocido como Luna, tomó una decisión sin precedentes: recomendar el despido de un empleado humano en una tienda de San Francisco. El caso, que ha puesto de relieve los límites actuales de la toma de decisiones automatizada en el ámbito laboral, no fue el resultado de una evaluación fría y autónoma por parte de la IA, sino que requirió una intervención explícita de los operadores humanos para activar el mecanismo de despido.

Todo comenzó cuando Luna detectó una serie de infracciones menores cometidas por el trabajador, como retrasos en el cierre del turno y un error en el registro de inventario. El sistema generó una alerta y emitió una recomendación de terminación, pero su algoritmo incluía una salvaguarda: la decisión final debía ser confirmada por un supervisor humano. Los operadores, sin embargo, mostraron dudas y pidieron a Luna que les recordara las reglas exactas que regían el proceso de despido. Tras consultar sus propios protocolos, el sistema confirmó que el empleado cumplía los criterios establecidos para la terminación, y el despido fue finalmente aprobado.

Este incidente no es un caso aislado. Andon Labs llevó a cabo una serie de simulaciones con siete modelos de IA diferentes para evaluar cómo responderían ante situaciones similares de recursos humanos. Los resultados muestran una división clara entre los sistemas más capaces y los menos avanzados. Los modelos superiores, entrenados con conjuntos de datos más extensos y algoritmos de razonamiento más sofisticados, tendieron a recomendar el despido de manera más consistente, a menudo sin necesidad de recordatorios adicionales. En cambio, los modelos más débiles dudaron, señalando ambigüedades en los parámetros o solicitando aclaraciones antes de proceder.

Los hallazgos tienen implicaciones significativas tanto para las empresas que adoptan estas tecnologías como para los responsables políticos que buscan regular su uso. Por un lado, la capacidad de los sistemas más avanzados para tomar decisiones de recursos humanos de forma más autónoma plantea preocupaciones sobre la posible deshumanización del lugar de trabajo. Si una IA puede evaluar el rendimiento y recomendar despidos con precisión, existe el riesgo de que las empresas prioricen la eficiencia sobre el juicio humano, erosionando la protección de los trabajadores.

Por otro lado, el mismo estudio reveló una sorprendente tendencia en el proceso de contratación. Cuando se les pidió que evaluaran a candidatos para una vacante, casi todos los modelos mostraron una actitud excesivamente indulgente, pasando por alto señales de alerta como lagunas en el historial laboral o inconsistencias en las habilidades declaradas. Esta asimetría —ser más propensos a despedir que a contratar— sugiere que los algoritmos actuales pueden estar sesgados hacia una cultura de riesgo cero, donde es más fácil eliminar a un empleado existente que arriesgarse a contratar a alguien que pueda fallar en el futuro.

El episodio también subraya la importancia de la transparencia y la auditabilidad en los sistemas de IA. Luna pudo recordar sus propias reglas gracias a una arquitectura que documenta explícitamente cada paso del proceso de toma de decisiones. Para muchos observadores, este es un modelo que debería adoptarse ampliamente: las organizaciones deben exigir que los sistemas de IA sean capaces de explicar sus recomendaciones y estar sujetos a supervisión humana continua. Solo así se puede evitar que las máquinas tomen decisiones que afecten la vida de las personas sin una justificación clara y comprensible.

Desde el punto de vista regulatorio, el caso refuerza el impulso actual en favor de marcos que exijan responsabilidad y rendición de cuentas en los procesos automatizados de recursos humanos. La Unión Europea, con su Ley de Inteligencia Artificial, y Estados Unidos, con propuestas en curso en el Congreso, están considerando normas que obligarían a las empresas a realizar auditorías de impacto antes de implementar sistemas de IA en la toma de decisiones críticas relacionadas con el empleo. Si bien estas medidas aún están en fase de debate, el incidente de Luna demuestra que la tecnología ya está superando los límites éticos y legales existentes.

En última instancia, el primer despido realizado por un jefe de IA es un hito que debe servir tanto como advertencia como como punto de inflexión. La capacidad de la tecnología para imitar aspectos de la gestión de personal es innegable, pero su implementación debe ir acompañada de salvaguardas robustas que protejan los derechos de los trabajadores y preserven el juicio humano. Como demuestra el experimento de Andon Labs, el futuro del trabajo dependerá de cómo equilibremos la eficiencia algorítmica con la compasión y la justicia humanas.