La semana pasada el Departamento de Comercio de Estados Unidos ordenó a la startup estadounidense Anthropic retirar de circulación sus dos últimos modelos de lenguaje, Fable 5 y Mythos 5. La medida se justificó en “preocupaciones de seguridad nacional”, tras que investigadores de Amazon descubrieran un método para eludir las salvaguardas de Fable 5 y revelar información sensible.

En medio del escándalo, un grupo de expertos en ciberseguridad firmó una carta abierta en la que calificó la prohibición como una medida “peligrosa y contraproducente”. Ellos argumentan que, al impedir el acceso público a la tecnología, se dificulta la investigación y la identificación de riesgos de forma colaborativa. Anthropic, por su parte, reconoció que los mismos “jailbreaks” existen en otros modelos, pero sostuvo que la decisión era necesaria para garantizar la seguridad de los usuarios.

La polémica plantea una pregunta central: ¿cuándo es justificable que un gobierno intervenga en la distribución de modelos de IA? En el caso de Fable 5, el argumento oficial se centra en la posibilidad de que la información generada pueda ser utilizada para ataques cibernéticos, fraudes o manipulación de datos confidenciales. Sin embargo, los críticos sostienen que la respuesta del gobierno puede ser una reacción exagerada a una vulnerabilidad que, en teoría, ya había sido detectada y tratada por la propia empresa.

Contexto histórico Desde 2018, cuando la Administración Trump inició la “política de IA de EE. UU.”, el gobierno ha buscado controlar el desarrollo de tecnologías que puedan afectar la seguridad nacional. En 2021, la Administración Biden estableció el Consejo de Inteligencia Artificial Estratégica (SIEC) para coordinar la investigación y la regulación. La reciente acción contra Anthropic encaja dentro de ese marco de vigilancia, pero también genera preocupación entre la industria, que teme que la intervención pueda crear un precedente para la censura tecnológica.

Importancia para los profesionales Para los ingenieros de IA y los responsables de políticas en el sector, la decisión de EE. UU. plantea dos escenarios: por un lado, un recordatorio de que la responsabilidad de diseñar sistemas con salvaguardas robustas recae en las empresas; por otro, la necesidad de una colaboración más estrecha con organismos reguladores para definir estándares claros y evitar bloqueos abruptos.

El papel de la investigación abierta Uno de los argumentos más fuertes en la carta abierta es la importancia de la investigación abierta. Cuando la salida de un modelo se detiene, las comunidades académicas y de código abierto pierden la oportunidad de probar sus límites, de identificar fallos y de proponer mejoras. La experiencia con GPT‑4 y otros modelos de OpenAI ha demostrado que la colaboración entre la industria y la academia acelera la detección de vulnerabilidades.

Conclusión La prohibición de Fable 5 destaca el delicado equilibrio entre la innovación y la seguridad. Si bien la protección de datos sensibles es crucial, la respuesta debe ser proporcional y basada en evidencias sólidas. La comunidad de IA debe usar este caso como un llamado a fortalecer los protocolos de pruebas internas, a mejorar la transparencia y a establecer canales de diálogo con los reguladores. Solo así se podrá avanzar hacia una IA responsable sin perder la agilidad necesaria para seguir innovando.

La próxima etapa Anthropic ya anunció planes de lanzar una versión revisada de Fable 5 en los próximos meses, con medidas de seguridad adicionales. El proceso de revisión y la expectativa de una nueva aprobación por parte de las autoridades estadounidenses marcarán el siguiente capítulo en la relación entre la industria de IA y el gobierno de EE. UU., y ofrecerán una valiosa lección sobre cómo equilibrar la apertura con la protección.

"La IA es un arma de doble filo; su poder reside tanto en la creación como en la prevención de riesgos, y la política debe reflejar esa dualidad sin silenciar la voz de la innovación", concluye el análisis.