El gobierno de Estados Unidos ha vuelto a subir la temperatura en el debate sobre la gobernanza de la inteligencia artificial. En la última semana, funcionarios de la Casa Blanca y del Departamento de Comercio señalaron que la compañía de IA Anthropic, creadora del modelo de lenguaje y juego Fable 5, está incumpliendo la directiva de ciberseguridad de la administración Trump, que exige que los sistemas de IA de alto riesgo sean «inhackables» y estén sometidos a rigurosos controles de seguridad.

Esta acusación llega tras la publicación de Fable 5, un juego basado en inteligencia artificial que utiliza un modelo de lenguaje de Anthropic para generar diálogos y escenarios dinámicos. La compañía declaró que el lanzamiento se realizó sin la aprobación del gobierno, argumentando que su proceso de validación interna cumplía con los estándares de la industria. Sin embargo, la administración sostiene que la directiva establece requisitos específicos de auditoría y pruebas de penetración, los cuales no se aplicaron.

El conflicto surge en el contexto de una creciente preocupación por la seguridad de los modelos de lenguaje a gran escala (LLM). Los expertos señalan que, a medida que estos modelos se vuelven más sofisticados, también aumentan los vectores de ataque. Los LLM pueden ser manipulados para generar contenido malicioso, exfiltrar datos confidenciales o incluso ejecutar código arbitrario cuando se combinan con otros sistemas.

Para la administración, la garantía de que un LLM sea “inhackable” implica no solo proteger el modelo en sí, sino también garantizar la integridad de los datos de entrenamiento, la confidencialidad de las interacciones de los usuarios y la robustez frente a ataques adversarios. En teoría, esto requeriría auditorías externas independientes, pruebas de penetración continuas y la adopción de estándares de seguridad de la industria, como ISO/IEC 27001.

Anthropic, por su parte, sostiene que la idea de un LLM invulnerable es prácticamente utópica. Los ingenieros de la compañía argumentan que, aunque se pueden mitigar muchos riesgos, la naturaleza de los modelos generativos hace que sea imposible cerrar totalmente todas las brechas. Además, la empresa ha enfatizado su compromiso con la transparencia, publicando un informe de seguridad detallado y ofreciendo acceso a sus auditorías internas.

El debate se intensifica con la participación de agencias clave como la CIA y el Departamento de Comercio, así como del asesor científico Michael Kratsios. Se han programado conversaciones de alto nivel para determinar si se puede establecer un marco regulatorio que no comprometa la innovación pero que garantice la seguridad nacional.

Desde la perspectiva de la industria, la postura del gobierno plantea interrogantes sobre el futuro de la regulación de la IA en Estados Unidos. Si el gobierno impone requisitos de seguridad tan rigurosos, las empresas podrían enfrentar costos enormes para cumplir con los estándares, lo que podría ralentizar el despliegue de nuevas tecnologías.

Por otro lado, los defensores de la regulación más estricta argumentan que la seguridad de los LLM es esencial para prevenir usos maliciosos. En un mundo donde la IA puede producir noticias falsas, automatizar ataques cibernéticos o manipular elecciones, la responsabilidad de los desarrolladores de asegurar sus sistemas es innegable.

El caso de Anthropic también subraya la importancia de la colaboración público‑privada. Los gobiernos pueden no tener la capacidad técnica para auditar cada modelo, mientras que las empresas necesitan orientación sobre los requisitos de seguridad. Una solución viable podría ser la creación de consorcios de seguridad de IA, donde expertos de la academia, la industria y el gobierno compartan mejores prácticas.

En conclusión, la demanda del gobierno de EE.UU. a Anthropic por LLMs “inhackables” destaca un dilema central en la era de la IA: equilibrar la innovación con la seguridad. Si las autoridades logran establecer estándares alcanzables sin sofocar el desarrollo, podrían sentar un precedente global que proteja a la sociedad de los riesgos inherentes a la inteligencia artificial.