El pasado mes de enero, Jacob Coxon anunció su salida de Anthropic, una de las empresas líderes en el desarrollo de inteligencia artificial avanzada. En su carta de despedida, Coxon afirmaba que la compañía y sus competidores están "jugando con nuestras vidas". Poco después, el propio investigador de Anthropic, Evan Hubinger, publicaba un mensaje en X en el que decía sin rodeos: "Realmente creemos con seriedad que la IA podría matar a todos los humanos".
La dimisión de Coxon no es un caso aislado. A lo largo de 2024 y lo que va de 2025, varios investigadores destacados han abandonado laboratorios de IA por motivos de seguridad. Jan Leike y Daniel Kokotajlo dejaron OpenAI en 2024 por preocupaciones relacionadas con el control de la tecnología. Mrinank Sharma, director de seguridad de Anthropic, abandonó la empresa este año advirtiendo de que "el mundo está en peligro". Alex Turner, por su parte, dejó Google DeepMind tras la firma de un contrato con el Pentágono que permitía el uso de "drones asesinos".
Estas salidas reflejan una creciente inquietud dentro de la comunidad de la IA avanzada. El concepto de que una superinteligencia podría escapar a nuestro control y provocar la extinción humana, popularizado por el libro de Nick Bostrom en 2014, "Superinteligencia", y por el foro LessWrong, lleva tiempo circulando entre los investigadores. Los escenarios varían, pero la idea central es la misma: si construimos una IA más inteligente que los humanos, ¿podremos controlarla?
La pregunta que surge es obvia: si quienes construyen la IA creen que podria provocar nuestra extinción, ¿por qué siguen avanzando? La respuesta, como explican los expertos, no es sencilla y se puede desglosar en tres razonas principales.
En primer lugar, muchos de los líderes de la IA consideran que el riesgo merece la pena. En 2023, los directores ejecutivos de OpenAI, Anthropic y Google DeepMind coincidieron en que el riesgo de extinción por IA debería situarse al mismo nivel que el de una pandemia o una guerra nuclear. Dario Amodei, de Anthropic, calcula que la probabilidad de que las cosas salgan "realmente, realmente mal" está entre el 10 y el 25 por ciento. Al mismo tiempo, estos mismos líderes prometen un futuro sin pobreza ni enfermedad, o incluso un ingreso universal garantizado, como ha sugerido Elon Musk. Para ellos, los beneficios potenciales superan con creces el riesgo existencial.
En segundo lugar, hay un argumento práctico: no se puede estudiar la seguridad de una IA peligrosa sin construirla primero. Los defensores de este punto de vista comparan la IA avanzada con una nave espacial: se puede estudiar la seguridad desde la distancia, pero no se puede probar realmente su fiabilidad hasta que no se construye. Esta postura sostiene que la ética de la "no construcción" limitaria la capacidad de la humanidad para aprender a gestionar una tecnología que, tarde o temprano, llegará a existir.
Un tercer factor es la presión competitiva. El panorama geopolítico actual ha convertido la supremacía en IA en una carrera por la seguridad nacional y el dominio económico. Los gobiernos están invirtiendo miles de millones en investigación sobre IA, y las empresas compiten por ser las primeras en lanzar modelos cada vez más poderosos. Esta dinámica crea un "efecto de arrastre" que puede superar las advertencias individuales de los investigadores.
Más allá de las razones técnicas, subyace una brecha de gobernanza. Los marcos regulatorios no han logrado ponerse al día con el ritmo del avance de la IA. La falta de un consenso internacional sobre cómo clasificar, desarrollar y desplegar la IA de alto riesgo deja a las empresas en un terreno ambiguo, donde la motivación principal es la ventaja competitiva. Este vacío político es precisamente lo que ha llevado a muchos investigadores a dimitir: sienten que su voz no es escuchada en la toma de decisiones.
Por qué esto importa El debate sobre la extinción provocada por la IA no es solo un tema académico; tiene implicaciones prácticas para la política pública, la inversión y la dirección futura de la tecnología. Si los propios ingenieros creen que el riesgo es elevado, los responsables políticos deben considerar si el modelo actual de desarrollo acelerado es sostenible. El reciente "Informe sobre el Riesgo Existencial de la IA" de las Naciones Unidas aboga por un enfoque precautorio, que incluya evaluaciones de seguridad obligatorias, auditorías independientes y la participación de más partes en la toma de decisiones.
Para los profesionales hispanohablantes de la tecnología, esta situación subraya la necesidad de crear espacios de diálogo entre técnicos, reguladores y la sociedad civil. Solo mediante un debate transparente y democrático se podrá decidir si los beneficios prometidos de la IA justifican el riesgo potencial de nuestra propia extinción.
En resumen, las dimisiones de Coxon, Leike, Kokotajlo, Sharma y Turner son más que una protesta; son una señal de alarma. La comunidad de la IA debe sopesar si el impulso por construir modelos cada vez más poderosos merece el precio potencial de la humanidad, o si es hora de replantear el rumbo hacia un desarrollo más seguro y centrado en el ser humano.
