La ética de la inteligencia artificial no debe reducirse a escenarios de catástrofe, sino enfocarse en quién construye, controla y beneficia a la tecnología. Así lo plantea Eleanor Drage, etiquetada como 'AI ethicist' en el ámbito académico, en su reciente análisis publicado en Guardian AI. Su obra, 'What If We Got AI Right?', cuestiona la narrativa dominante de Silicon Valley que presenta la IA como un ente misterioso y omnipotente, y propone una visión más humana y crítica de su desarrollo.
Drage sostiene que para que la humanidad prospere junto con la IA, es fundamental reconocer que esta no es un concepto abstracto, sino un producto de mano de obra humana: desde los mineros de cuarzo y silicona hasta los centros de etiquetado de datos. Cada algoritmo, cada modelo, es el resultado de decisiones humanas, recursos naturales y una cadena de valor global. Esta perspectiva, según Drage, es clave para que los ciudadanos comprendan verdaderamente qué están comprando cuando 'usamos la nube' o interactúan con un chatbot. La 'nube', por ejemplo, no es un lugar misterioso, sino un conjunto de servidores en centros de datos controlados por empresas privadas.
El autor destaca que el temor ante un 'apocalipsis de IA' ha desviado la atención de debates prácticos y necesarios. Mientras empresas como OpenAI o Google prometen revoluciones utópicas, sus prioridades siguen centradas en maximizar ganancias y acumular poder, beneficiando a unos pocos. Esta dinámica, advierte Drage, es insostenible y contradice los intereses de la sociedad. Además, la obsesión con escenarios extremos ha distraído la atención de problemas urgentes como el cambio climático, las tensiones geopolíticas y la desigualdad, que ya generan sufrimiento masivo y, de abordarse, podrían mitigar muchos de los riesgos asociados a la IA.
La autora critica también el lenguaje empleado para describir la tecnología. Términos como 'inteligencia' o 'alucinación' suenan mágicos, pero son, en realidad, errores de sistemas o fallos en el entrenamiento de modelos. Una IA que 'alucina' no es un fenómeno sobrenatural, sino una consecuencia de datos insuficientes o sesgados. Reconocer esto permite pasar de una narrativa de miedo a una discusión concreta sobre cómo regular y responsabilizar estos sistemas.
Drage propone alternativas realistas: garantizar que los ciudadanos tengan control sobre el uso de sus datos, participar en la regulación de los modelos de IA y exigir transparencia en sus desarrollos. La ética no debe ser un campo teórico, sino una herramienta para democratizar el poder tecnológico. Mientras las corporaciones continúan priorizando beneficios económicos, la sociedad necesita voz, alternativas y mecanismos para exigir responsabilidad.
En un mundo donde la IA redefine industrias y relaciones humanas, el enfoque de Drage nos recuerda que la verdadera cuestión no es si la IA nos salvará o nos destruirá, sino quién decide sus direcciones. La respuesta, según su análisis, está en la transparencia, la participación ciudadana y una mirada crítica hacia los intereses de unos pocos. Solo así podríamos evitar no el apocalipsis, sino una sociedad cada vez más dependiente de tecnologías oscuras y descontroladas.
