Un estudiante de medicina, con una combinación de habilidades en Python y un fuerte sentido de justicia, se embarcó en un viaje de seis meses para descubrir la causa de su rechazo sistemático a entrevistas laborales. Sus sospechas apuntaron a un algoritmo de selección de personal que, según él, estaba filtrando de forma injusta las aplicaciones de candidatos.

El caso se convirtió en un punto de referencia sobre la creciente dependencia de las empresas en herramientas de inteligencia artificial para gestionar el proceso de contratación. En los últimos años, el uso de algoritmos de aprendizaje automático para evaluar currículums, analizar respuestas en pruebas estandarizadas y predecir el rendimiento futuro ha crecido exponencialmente. Pero a medida que la tecnología gana terreno, también surgen preguntas sobre sesgos, transparencia y responsabilidad.

Para entender la magnitud del problema, es útil recordar que los algoritmos se entrenan con datos históricos. Si esos datos reflejan prejuicios humanos—por ejemplo, una menor contratación de mujeres en ciertos roles o de candidatos de ciertos grupos étnicos—el modelo aprenderá a replicarlos. Además, la falta de explicabilidad de muchos modelos de aprendizaje profundo dificulta saber por qué un candidato fue descartado.

El estudiante, cuyo nombre no reveló, empezó a sospechar cuando, tras enviar varias aplicaciones a empresas de salud, no recibió respuestas. Decidió reproducir el proceso de selección utilizando su propio script de Python, que simulaba las etapas de filtrado de los sistemas de seguimiento de candidatos (ATS, por sus siglas en inglés). Al comparar los resultados de su script con las respuestas reales, encontró una coincidencia sorprendente: la misma lógica que su programa aplicaba a sus datos también estaba filtrando sus currículums.

El análisis reveló que el algoritmo se basaba en criterios que, en apariencia, eran neutrales—palabras clave, títulos académicos y fechas de graduación. Sin embargo, al profundizar, se descubrió que el modelo estaba penalizando a los candidatos que no coincidían con un perfil predefinido de “exitoso” en la industria. Por ejemplo, los candidatos que habían estudiado en universidades no tradicionales o que habían tomado años de prácticas en entornos de investigación fueron marcados como “riesgo”.

Esta situación plantea interrogantes éticos urgentes. En primer lugar, ¿quién define el perfil “ideal”? Los criterios de selección suelen reflejar las preferencias de la organización en lugar de los requisitos reales del puesto. En segundo lugar, la falta de explicabilidad del algoritmo impide que los candidatos comprendan por qué fueron rechazados, lo que dificulta la mejora de sus aplicaciones.

La industria de la IA está respondiendo con regulaciones emergentes. La Unión Europea, por ejemplo, está desarrollando el Reglamento de IA, que exige que los sistemas de alto riesgo sean transparentes, auditables y sujetos a supervisión humana. En Estados Unidos, la discusión gira en torno a la Ley de Igualdad de Oportunidades de Empleo (EEO), que podría extenderse a la supervisión de algoritmos.

Para las empresas, la lección es clara: confiar ciegamente en algoritmos sin auditorías independientes puede conducir a decisiones discriminatorias y a una pérdida de talento. Se recomienda implementar un enfoque mixto que combine la automatización con la revisión humana, y establecer métricas de rendimiento que incluyan la equidad y la diversidad.

Para los candidatos, la historia del estudiante destaca la importancia de comprender cómo funcionan las herramientas de selección. La transparencia en el proceso de contratación no solo beneficia a los postulantes, sino que también protege a las organizaciones de posibles litigios y daños reputacionales.

En última instancia, la IA no es un sustituto de las decisiones humanas, sino una herramienta que debe ser utilizada con precaución. La ética, la transparencia y la supervisión continua son esenciales para garantizar que los algoritmos sirvan para abrir oportunidades, no para cerrarlas.

El caso del estudiante de medicina se ha convertido en un llamado a la acción para la industria de la IA y el sector de recursos humanos, recordándonos que la tecnología debe ser un aliado de la equidad, no un obstáculo.