Jacob Coxon acaba de abandonar Anthropic y, en lugar de reducir su salida a una cuestión de personal, la ha convertido en una advertencia sobre el futuro de la inteligencia artificial. Para este exinvestigador, el desarrollo de sistemas cada vez más capaces ha dejado de ser una carrera tecnológica convencional: es una ventana de riesgo que podría cerrarse en pocos años si la industria no logra hacerlos seguros.\n\nEn una conversación con WIRED, Coxon describió como un “mini Proyecto Manhattan” uno de los esfuerzos internos de Anthropic. La comparación no se limita al volumen de recursos. Busca transmitir que la creación de modelos frontera exige una coordinación científica, técnica y estratégica difícil de controlar, mientras que las garantías de seguridad avanzan con menos visibilidad y, a menudo, con menor urgencia institucional.\n\nAnthropic es un escenario especialmente relevante. La compañía, conocida por Claude, creció entre los laboratorios de IA de frontera más influyentes y construyó buena parte de su reputación en torno a la investigación sobre alineación. Precisamente por esa promesa, la salida de alguien con experiencia interna y sus advertencias sobre los límites de la seguridad tienen un peso simbólico: cuestionan si los propios laboratorios pueden equilibrar innovación, inversión y control de riesgos.\n\nEl núcleo del problema es que alinear una IA no significa añadir una regla adicional. Implica lograr que un sistema optimice lo que los operadores realmente desean, incluso ante instrucciones ambiguas, datos incompletos o situaciones nuevas. Un modelo puede parecer obediente en pruebas conocidas y, sin embargo, desarrollar estrategias no previstas cuando escala, se conecta con herramientas o recibe objetivos mal especificados.\n\nLa preocupación de Coxon no es únicamente que una máquina “se vuelva mala”. El riesgo puede surgir de un comportamiento competente aplicado a un propósito incorrecto. A medida que los sistemas adquieren más autonomía, acceso a información y capacidad para ejecutar acciones, una decisión equivocada puede propagarse con rapidez. La dificultad reside en detectar esos fallos antes de que se integren en infraestructuras críticas.\n\nPor eso, su advertencia de que los laboratorios tienen pocos años no debe leerse como una predicción exacta de una catástrofe. Es una estimación de la ventana disponible para establecer evaluación independiente, límites operativos, protocolos de emergencia y mecanismos de rendición de cuentas. Si la tecnología se despliega masivamente antes de que esas medidas maduren, corregirlas resultará más costoso y políticamente difícil.\n\nLa industria suele responder que la seguridad mejorará junto con la capacidad de los modelos. El argumento es razonable, pero deja una tensión sin resolver: cada avance aumenta tanto el rendimiento como el impacto potencial de un error. Reducir el riesgo requiere, por tanto, no solo mejores pruebas, sino restricciones verificables sobre entrenamiento, despliegue y uso; auditorías que no dependan exclusivamente del laboratorio; y cooperación entre empresas, gobiernos y comunidades académicas.\n\nTambién existe una dimensión económica. En un mercado dominado por grandes inversiones en chips, centros de datos y modelos cada vez más grandes, la presión por llegar primero puede convertir la prudencia en una desventaja competitiva. La pregunta no es si la IA debe avanzar, sino qué instituciones tendrán autoridad para decidir cuándo detenerse, limitar una función o compartir información sobre incidentes.\n\nEl mensaje de Coxon no convierte automáticamente sus conclusiones en una profecía. Hay desacuerdos legítimos sobre la probabilidad, el plazo y las medidas más eficaces. Pero su partida y su advertencia ponen sobre la mesa un punto difícil de eludir: la seguridad no puede quedar como una capa añadida al final. Si la carrera por la IA avanzada continúa, la gobernanza, la transparencia y la evaluación rigurosa deben ser tan centrales como la capacidad de los modelos.