California ha vuelto a marcar el ritmo regulatorio en Estados Unidos. El gobernador Gavin Newsom firmó este miércoles un paquete de tres leyes diseñadas para poner coto al poder desmedido de la inteligencia artificial en el entorno laboral, una movida que convierte al estado en el referente nacional de protección al trabajador frente a la automatización opaca.
La normativa aborda tres frentes críticos. Primero, prohíbe a los empleadores utilizar sistemas de IA que analicen datos biométricos —ritmo cardíaco, expresión facial, tono de voz— para inferir el estado emocional de un empleado. Segundo, obliga a notificar por escrito a la plantilla cuando una oleada de despidos masivos tenga su origen en decisiones algorítmicas. Tercero, y quizá lo más contundente, veta que la decisión final de despedir a una persona recaiga exclusivamente en un modelo de machine learning sin supervisión humana significativa.
"No podemos permitir que la eficiencia algorítmica sustituya al juicio humano en decisiones que destruyen medios de vida", declaró Newsom durante la firma, aprovechando para lanzar una pulla directa a la administración Trump: "Mientras Washington se paraliza por la polarización, California legisla para que la tecnología sirva a las personas, no al revés".
El movimiento no es aislado. Llega semanas después de que el propio Newsom vetara el polémico SB 1047 —la ley de seguridad de modelos fronterizos— argumentando que su enfoque basado en umbrales de cómputo era demasiado burdo. En su lugar, el gobernador ha optado por una estrategia quirúrgica: regular casos de uso concretos y de alto riesgo (empleo, seguros, salud) en lugar de perseguir la tecnología en abstracto.
Para las big tech con sede en Silicon Valley, el mensaje es claro: el laboratorio de experimentación laboral más grande del mundo acaba de cerrar la puerta a la "gestión algorítmica" sin rendición de cuentas. Empresas como Amazon, Uber o Google —que ya usan scoring automatizado para evaluar productividad— tendrán que rediseñar sus pipelines de RRHH para cumplir con la exigencia de "human-in-the-loop" en decisiones de terminación.
Los sindicatos celebran el precedente. La Federación Laboral de California calificó las leyes como "el primer marco legal que reconoce que la vigilancia biométrica continua es una violación de la dignidad, no una herramienta de gestión". Sin embargo, voces empresariales advierten de que la redacción de "supervisión humana significativa" deja margen de interpretación que acabará en los tribunales.
En el tablero federal, el contraste es nítido. La Casa Blanca ha emitido órdenes ejecutivas y la NIST publica marcos voluntarios, pero el Congreso no ha aprobado ninguna ley integral de IA. California, con su PIB equivalente al de la quinta economía mundial, ejerce de facto como regulador por defecto para cualquier compañía que opere en EE. UU.
La entrada en vigor está escalonada a lo largo de 2025, dando margen a las empresas para auditar sus sistemas. Pero la señal estratégica ya está en el aire: la próxima frontera de la regulación de IA no es la potencia del modelo, sino la accountability de quien lo despliega. Y California acaba de trazar la línea roja.
