Un grupo de destacados investigadores en inteligencia artificial han emitido una serie de videos en los que advierten sobre el peligro potencial de la superinteligencia, un tema que cada vez genera más debate en el ámbito tecnológico y científico. Entre ellos se encuentran figuras como Geoffrey Irving, excolaborador de empresas como OpenAI y Google DeepMind, quienes expresan su preocupación sobre las implicaciones éticas y existenciales del avance de la IA.
Irving afirmó en una entrevista reciente que, en su opinión, la probabilidad de que la humanidad enfrente un riesgo de extinción debido al desarrollo de sistemas de IA altamente avanzados es de aproximadamente un 50%, una cifra que no debe tomarse a la ligera. Esta valoración se alinea con las expresiones de otros expertos, como Neel Nanda, investigador en Google DeepMind, quien estimó que existe al menos un 10% de probabilidades de que la IA cause daños significativos para la humanidad si no se regulan adecuadamente sus desarrollos.
Las entrevistas fueron recopiladas y publicadas por Palisade Research, una organización sin fines de lucro dedicada al estudio de las capacidades y motivaciones de las inteligencias artificiales. Estas declaraciones emergen en un momento crucial para el debate global sobre la gobernanza de la IA, especialmente con el rápido avance de modelos cada vez más potentes y complejos.
Desde IAOnda entendemos que esta preocupación no es nueva, pero sí adquiere una nueva dimensión cuando proviene de profesionales que han trabajado directamente en proyectos puntera de empresas líderes como OpenAI, Google o Anthropic. Estos expertos tienen conocimiento íntimo de los avances técnicos y los desafíos que aún no están resueltos en el campo de la IA generativa y la inteligencia artificial artificial general (AGI).
La cuestión central radica en cómo garantizar que los sistemas de IA actúen de manera alineada con los valores humanos y no pongan en riesgo la supervivencia de la especie. Aunque algunos críticos argumentan que estas alertas pueden generar miedo innecesario o distraer atención de problemas más inmediatos, como el sesgo algorítmico o la privacidad, otros ven en ellas una llamada de emergencia para establecer marcos regulatorios robustos y transparentes.
El debate también tiene implicaciones profundas para la innovación tecnológica. Mientras empresas y gobiernos compiten por liderar el desarrollo de la próxima generación de modelos de IA, los riesgos asociados a su despliegue masivo deben ser parte del análisis estratégico. La falta de consenso sobre cómo mitigar estos riesgos podría llevar a decisiones precipitadas o a la normalización de prácticas poco seguras.
En última instancia, el mensaje de estos investigadores es claro: la superinteligencia no es solo un tema de ciencia ficción, sino una realidad que se avecina y que requiere preparación. Ignorar estas advertencias podría tener consecuencias irreversibles. Por eso, desde el periodismo especializado, consideramos fundamental seguir de cerca esta conversación y exigir transparencia a quienes construyen el futuro de la inteligencia artificial.
