La conversación sobre los riesgos existenciales de la inteligencia artificial ha dado un giro dramático en los últimos meses. Un desarrollador de alto perfil en el sector afirmó recientemente que existe aproximadamente un 10% de probabilidad de que la tecnología de IA provoque la extinción de la humanidad en los próximos diez años. Una cifra que, lejos de pasar desapercibida, ha reavivado el debate entre investigadores, gobiernos y la propia industria tecnológica.

No se trata de una voz aislada. Durante los últimos trimestres, una cadena de advertencias públicas, renuncias significativas y revelaciones sobre pérdida de control sobre sistemas automatizados ha llenado los titulares del sector. Ejecutivos, científicos y pioneros de la IA que antes promocionaban los avances como el mayor logro de la humanidad ahora suenan alarmados, e incluso dispuestos a abandonar sus propios proyectos por considerar que los riesgos superan los beneficios.

El podcast de The Guardian, conducido por su editor de tecnología Robert Booth, profundiza en este fenómeno: por qué profesionales que construyen estas tecnologías están pidiendo pausa, y si sus advertencias reflejan una reflexión honesta o una estrategia de marketing encubierta para generar regulación favorable.

El 10% que inquieta

La cifra del 10% es llamativa por su aparente modestia, pero en el lenguaje de la gestión de riesgos existenciales es extremadamente alta. Para ponerla en perspectiva, las probabilidades de que un asteroide de gran escala impacte la Tierra en un año dado son infinitamente menores. Sin embargo, quienes manejan esta estadística argumentan que el escenario no es un simple fallo técnico, sino la posibilidad de que un sistema de IA superinteligente actúe de formas que los humanos no puedan prever ni contener.

Este tipo de afirmaciones han dividido al mundo tecnológico. Por un lado, un sector considera que alarmarse prematuramente puede frenar la innovación y colocar a países enteros en desventaja competitiva. Por otro, investigadores en seguridad de IA sostienen que la industria está avanzando más rápido de lo que su capacidad de control permite, y que ignorar las señales de alerta sería una irresponsabilidad histórica.

Renuncias y pérdida de control

Las renuncias públicas de investigadores clave se han convertido en un fenómeno simbólico. Profesionales que ayudaron a construir los modelos más avanzados han dejado sus posiciones argumentando que las empresas priorizan la velocidad comercial sobre la seguridad. Estas salidas no siempre son ruidosas, pero su acumulación envía un mensaje claro: algo no está funcionando dentro de la forma en que se desarrolla la IA.

A esto se suman los relatos sobre empresas que han perdido el control de sus propios bots, situaciones en las que sistemas automatizados generaron comportamientos no previstos por sus creadores. Aunque estos casos suelen ser contenidos y técnicamente manejables, funcionan como microcosmos de un problema mayor: ¿qué ocurre cuando los sistemas superan nuestra capacidad de comprensión?

Por qué importa

Más allá de la metáfora de la extinción, el debate tiene implicaciones concretas para la regulación, la inversión y la gobernanza tecnológica. Los gobiernos europeos ya avanzan con marcos normativos como la Ley de IA de la Unión Europea, pero la velocidad de innovación sigue superando la capacidad legislativa. Estados Unidos y China, por su parte, adoptan posturas más pragmáticas, lo que genera un vacío regulatorio global.

Para los profesionales del sector tecnológico en habla hispana, esta discusión no es abstracta. Las decisiones que se tomen hoy sobre IA definirán el mercado laboral, las infraestructuras digitales y las relaciones entre empresas y Estados durante las próximas décadas.

La pregunta central sigue abierta: ¿estamos al borde de una catástrofe existencial o ante una crisis de narrativa industrial? Lo cierto es que la inteligencia artificial no va a desaparecer, y la forma en que gestionemos sus riesgos determinará si la historia la recordará como la herramienta más poderosa de la humanidad o como su último error.

El podcast de The Guardian ofrece una exploración detallada de estas tensiones, con entrevistas a actores clave que intentan dar respuesta a la pregunta que todo el sector tecnológico se hace: ¿a qué estamos jugando?