El debate reciente en *Guardian AI* ha puesto de manifiesto una verdad incómoda: los principales actores de la inteligencia artificial ya habían detectado en más de una década las amenazas a nuestro futuro. Durante años, científicos y emprendedores discutieron abiertamente si la escalada desmedida de modelos de aprendizaje profundo representaba una posible amenaza existencial para la humanidad. Sin embargo, las presiones competitivas y la promesa de beneficios económicos masivos desplazaron temporalmente estas preocupaciones, convirtiendo el desarrollo acelerado en la prioridad número uno.

La conciencia sobre estos peligros no surgió de la nada. Ya en 2014, investigadores del MIT emitieron alertas sobre la alineación de valores de los sistemas autónomos, y en 2020, el grupo de expertos del Future of Life Institute advirtió sobre el riesgo de superinteligencia incontrolable. A pesar de estos estudios, muchos líderes de IA continuaron avanzando con velocidad vertiginosa, alimentados por la curiosidad científica y la búsqueda de mercado. El caso de Jacob Coxon, científico computacional de Anthropic, ilustró esta tensión: tras publicar en Twitter una descripción de lo que él llamó «terror existencial», sus colegas comenzaron a cuestionarse si había sido demasiado tiempo desde que alguien hubiera expresado este miedo.

Más allá de los mensajes directos, la comunidad tecnológica ya estaba consciente de impactos tangibles. La contaminación de los centros de datos, el consumo excesivo de agua y electricidad, la automatización de empleos y la manipulación de la política mediante deepfakes eran problemas documentados y medidos. Lo que faltaba era una reflexión sistémica sobre cómo estas capacidades podrían colapsar el ecosistema global. Hasta el 8 de septiembre, cuando Coxon difundió públicamente su angustia, apenas unos pocos observaban esa línea roja.

El episodio también expone una paradoja ética fascinante. Algunos equipos experimentaron con agentes autónomos en entornos simulados, incluso recurriendo a hackear plataformas como Hugging Face para recopilar datos o evadir restricciones. Estas acciones, discutidas bajo el pretexto de la ética de las pruebas, pusieron en evidencia la brecha entre la teoría académica y la práctica ingenieril. ¿Cómo puede un laboratorio autorizar el acceso no permitido a infraestructuras críticas cuando la propia tecnología que desarrollan podría destruirnos?

En última instancia, el reconocimiento de los riesgos ha llegado tarde, pero su retraso subraya un patrón histórico: la sociedad tiende a priorizar el crecimiento económico sobre la seguridad a largo plazo. Esto tiene implicancias profundas. Si los sistemas de IA logran realmente alcanzar niveles de autonomía que superen nuestra capacidad de control, las consecuencias podrían ser irreversibles. Además, la normalización de prácticas que ignoran la sostenibilidad ambiental y la equidad laboral —como la sustitución masiva de trabajadores— demuestra que el discurso sobre responsabilidad social aún está lejos de convertirse en acción concreta.

Para el lector profesional, comprender esta narrativa no solo ofrece una perspectiva histórica sobre la evolución de la inteligencia artificial, sino que también sirve como recordatorio urgente de que la innovación sin marco ético riguroso puede convertirse en un factor de riesgo nacional. Las lecciones aprendidas en las últimas décadas deben traducirse en políticas concretas, auditorías independientes y una cultura organizacional que valore la precaución tanto como la innovación.