El sector tecnológico se enfrenta a un nuevo frente de batalla ético: la discriminación generada por la inteligencia artificial no es solo un error técnico aislado, sino el resultado de una serie de decisiones humanas que se toman mucho antes de que el modelo emita su primera predicción. Este es el meollo de una demanda presentada en Estados Unidos contra Workday, una de las principales empresas de software de recursos humanos, por utilizar herramientas de selección impulsadas por IA que supuestamente discriminaron contra solicitantes por motivos de edad, discapacidad y raza.
Workday, cuyo software de contratación es adoptado por grandes empleadores en todo el mundo, ha negado las acusaciones. Sin embargo, el caso se suma a una creciente lista de ejemplos en los que los sistemas de IA son señalados de causar daño discriminatorio. Cuando los sistemas de IA replican y amplifican prejuicios preexistentes, la línea entre un error técnico y una injusticia sistémica se difumina, convirtiendo el sesgo en un daño digital que afecta a personas reales.
La narrativa común de culpar exclusivamente al algoritmo oculta una realidad más compleja. Los modelos de IA no eligen de forma autónoma qué pueden generar, qué salvaguardas necesitan ni cómo debe responder una empresa cuando se reportan casos de discriminación. Esos juicios se toman mucho antes de la primera inferencia del modelo: en la selección de los conjuntos de datos, en la definición de las características que el sistema aprenderá a valorar y en las políticas corporativas que determinan cómo se desplegarán estas herramientas. Las personas, y no los algoritmos, son las que deciden cuál es el propósito final de cada sistema.
Por eso, los parches técnicos no son suficientes. Se necesita una transformación integral de los ecosistemas de IA que garantice su inclusividad. Esto implica revisar no solo los modelos, sino también los procesos de desarrollo, la diversidad de los equipos que los construyen y los marcos regulatorios que rigen su uso.
Un patrón más amplio emerge cuando observamos cómo los sistemas de IA reducen sutilmente quién es considerado competente, empleable o apto para liderar. En un estudio realizado en 2025, analizamos cómo dos modelos de lenguaje, GPT‑Chat (ahora retirado) de OpenAI y Microsoft Copilot, representaban a ingenieros de software en un ejercicio de simulación de contratación. Presentamos 300 perfiles de candidatos para cuatro roles, solicitando recomendaciones y generando imágenes de los candidatos "preferidos" por cada modelo.
Ambos modelos mostraron una clara preferencia por los perfiles masculinos, especialmente en puestos sénior. Las imágenes generadas también tendían a representar a ingenieros que eran más jóvenes, delgados y de piel más clara. Estas preferencias no eran caprichos aleatorios, sino asociaciones arraigadas en el lenguaje, el arte, los registros laborales y suposiciones culturales sobre quién "pertenece" a la profesión. Al reproducir esos patrones, los modelos amplifican estereotipos que ya limitan la participación de grupos subrepresentados en la tecnología.
Estos resultados no se quedan confinados a un estudio académico. Las recomendaciones generadas por IA están entrando en procesos de contratación, en sistemas educativos y en servicios públicos. Cuando las mismas tecnologías que deciden quién recibe una oferta de empleo o una beca reproducen sesgos históricos, el efecto es una exclusión sistémica que se perpetúa.
La brecha es especialmente preocupante si consideramos quiénes desarrollan estas tecnologías. Las mujeres y muchas comunidades subrepresentadas siguen estando escasamente presentes en los equipos de ingeniería y en los comités de diseño de IA. Esta falta de diversidad limita la capacidad de los sistemas para detectar sesgos que los miembros mayoritarios pueden pasar por alto.
Para avanzar hacia una IA más justa, es necesario adoptar un enfoque multidimensional. En primer lugar, los procesos de selección de datos deben incluir auditorías rigurosas que identifiquen y mitiguen los prejuicios. En segundo lugar, las empresas deben establecer responsabilidades claras sobre quién es responsable cuando las herramientas de IA causan daño. En tercer lugar, las políticas públicas deben exigir transparencia en los modelos de IA utilizados en contextos críticos, como la contratación y la educación. Por último, la industria debe invertir en programas que incrementen la participación de grupos subrepresentados en la creación de tecnología.
El caso de Workday no es un incidente aislado; es un recordatorio de que la equidad en IA requiere vigilancia constante y un compromiso colectivo para desenredar las decisiones humanas que alimentan el algoritmo. Solo cuando la inclusión sea un principio rector desde el diseño hasta la implementación, la tecnología podrá cumplir su promesa de ampliar las oportunidades, en lugar de restringirlas.
