Un grupo plural de más de 70 diputados y miembros de la Cámara de los Lores ha reclamado a Andy Burnham que apoye la prohibición de la superinteligencia artificial y promueva una coalición internacional para impedir su desarrollo. El llamamiento llega después de una semana marcada por advertencias sobre un posible riesgo de extinción humana asociado a sistemas mucho más capaces que las personas.

Entre los firmantes figuran quince exministros, parlamentarios destacados del laborismo, conservadores, liberaldemócratas y nacionalistas escoceses, además de Robin Butler, exjefe del servicio civil británico. La amplitud política de la carta refleja hasta qué punto la seguridad de la IA ha dejado de ser una preocupación exclusiva de laboratorios e investigadores.

La iniciativa legislativa presentada este martes en la Cámara de los Comunes busca prohibir la creación de una ASI, acrónimo inglés de superinteligencia artificial. Este concepto designa una hipotética máquina capaz de superar a los humanos en la mayoría de las tareas cognitivas relevantes, no a los modelos generativos actuales. Ningún sistema comercial conocido cumple todavía esa definición.

El detonante político ha sido la estimación de determinados expertos que sitúan en torno al 10 % la probabilidad de que una tecnología de este tipo cause la muerte de toda la humanidad durante la próxima década. Se trata, sin embargo, de un cálculo controvertido: no es una previsión estadística comparable a las utilizadas en ingeniería o seguros, sino una estimación subjetiva basada en escenarios y en opiniones de especialistas seleccionados.

También ha ganado visibilidad una advertencia atribuida a un empleado de Anthropic, una de las principales compañías estadounidenses de IA. La afirmación no representa necesariamente la postura oficial de la empresa, pero ilustra la intensidad del debate interno en una industria sometida a inversiones récord y a una competencia cada vez más rápida por aumentar la capacidad de sus modelos.

Los partidarios de una prohibición anticipatoria sostienen que un riesgo irreversible no debería gestionarse únicamente después de que aparezcan los primeros daños. Defienden controles sobre potencia de cálculo, centros de datos, evaluación obligatoria de modelos avanzados y acuerdos internacionales que impidan eludir las normas nacionales.

Los críticos consideran difícil aplicar un veto a una tecnología que todavía carece de una definición operativa estable. También advierten que una prohibición unilateral podría trasladar la investigación a países con marcos menos estrictos, sin eliminar el riesgo global. Para ellos, centrarse en escenarios de extinción puede distraer recursos de problemas ya presentes, como los sesgos, la vigilancia, el impacto laboral, la desinformación y la concentración de poder tecnológico.

La controversia sitúa al Reino Unido ante una decisión estratégica. Tras la cumbre de Bletchley Park, Londres intentó consolidarse como referente en seguridad de IA, pero aún debe equilibrar innovación, soberanía tecnológica y control democrático. La Unión Europea, por su parte, ha optado con la AI Act por un enfoque basado en riesgos, sin establecer una prohibición general sobre futuros sistemas superinteligentes.

Para las empresas y profesionales tecnológicos, el resultado importa más allá del debate filosófico. Las normas que definan qué es un sistema avanzado, quién debe evaluarlo y qué infraestructura requiere autorización pueden condicionar el acceso a computación, los costes de cumplimiento y la localización de nuevos proyectos.

La propuesta británica tiene pocas posibilidades de resolver por sí sola una cuestión global. Su verdadero valor podría estar en obligar a los Gobiernos a discutir límites, responsabilidades y mecanismos de verificación antes de que la ASI deje de ser una hipótesis. La pregunta central ya no es solo si puede construirse, sino quién decidirá si debe hacerse.