En su columna del Guardian, Timothy Garton Ash plantea una pregunta que retumba en los pasillos de Silicon Valley: ¿es suficiente que una catástrofe de IA comparable a la de Hiroshima obligue a la humanidad a actuar con prudencia? Los analistas coinciden en que la velocidad del avance de la inteligencia artificial supera la capacidad de los gobiernos y la sociedad para regularla, lo que convierte incluso las predicciones más optimistas en una visión poco realista.
Elon Musk, uno de los mayores impulsores del desarrollo de IA, sostiene que la tecnología abrirá una era de abundancia sin precedentes, donde la productividad y el bienestar humano se disparen. Sin embargo, admite una probabilidad del 10 al 20 % de que los sistemas autónomos terminen por causar una catástrofe mortal. Esta dualidad refleja la ambivalencia del sector: el mismo código que promete progreso ilimitado también encierra el riesgo de autodestrucción. Esta ambivalencia plantea interrogantes sobre la gobernanza global y la necesidad de marcos regulatorios robustos.
Por otro lado, Geoffrey Hinton, considerado uno de los padres fundadores de la IA moderna, advierte que la humanidad está ‘a punto de ser tostada’. En una entrevista de 2023 estimó una probabilidad del 50 % de extinción humana, argumentando que una vez que la IA comience a mejorarse a sí misma, el control será imposible de mantener. Su visión, aunque cruda, subraya la urgencia de abordar los riesgos antes de que la tecnología alcance niveles de autonomía que superen nuestra capacidad de intervención.
Robert Wright, autor de “The God Test”, resume la incertidumbre señalando que el futuro cercano alberga una variedad de caminos plausibles, cada uno con consecuencias transformadoras para la especie. Desde la creación de una superinteligencia benevolente que impulse la prosperidad hasta la consolidación de un poder algorítmico autoritario, la diversidad de escenarios muestra que la trayectoria de la IA no está escrita de antemano y depende de decisiones colectivas que aún están por tomar y su implementación regulatoria.
Calcular p(doom) resulta extremadamente complejo porque combina variables técnicas –como la velocidad de la auto‑mejora, la arquitectura de los modelos y la robustez de los mecanismos de alineación– con factores sociopolíticos, económicos y culturales. La ausencia de marcos internacionales claros y la competencia por liderar la carrera tecnológica dificultan cualquier evaluación objetiva, convirtiendo la predicción de riesgos en una tarea más de speculation que de ciencia exacta. Asimismo, la falta de incentivos económicos claros para invertir en investigación de seguridad y la fragmentación del sector entre startups, grandes corporaciones y gobiernos crean un entorno donde la cooperación es escasa y los intereses pueden divergir rápidamente.
Para los profesionales de tecnología, la stakes son claras: la IA no solo redefinirá sectores como la salud, la educación y la energía, sino que también dictará la arquitectura de la gobernanza digital y los marcos de responsabilidad. Invertir en investigación de alineación, participar en debates regulatorios y promover normas de transparencia son acciones que pueden mitigar los riesgos y garantizar que los beneficios se distribuyan de manera equitativa, evitando una concentración de poder que amenace la estabilidad social.
En definitiva, esperar a que una catástrofe de la magnitud de Hiroshima sirva de alerta puede ser demasiado tarde; la historia nos muestra que la prevención proactiva es la única vía viable. La comunidad tecnológica debe impulsar políticas internacionales, financiar la seguridad de la IA y fomentar una cultura de responsabilidad, de modo que el futuro de la humanidad no quede a merced del azar, sino a la deliberada construcción de un equilibrio entre innovación y cautela.
