Anthropic, la startup de inteligencia artificial fundada por ex‑empleados de OpenAI, se encuentra nuevamente en el centro de una controversia con el gobierno de los Estados Unidos. Tras lanzar el 9 de junio sus últimos modelos, Claude Fable 5 y Claude Mythos 5, la compañía recibió una orden el 12 de junio que le obliga a bloquear el acceso a usuarios extranjeros. La decisión se tomó después de que investigadores de seguridad de Amazon alertaran a la Casa Blanca sobre posibles vulnerabilidades que podrían permitir que los modelos sean explotados para generar información útil en ciberataques.

¿Qué prometían Fable 5 y Mythos 5?

En el anuncio de lanzamiento, Anthropic destacó que Fable 5 superaba en capacidad a cualquier modelo que la empresa había puesto a disposición del público hasta la fecha. Por su parte, Mythos 5 compartía la misma arquitectura subyacente, pero con “las salvaguardas levantadas en algunas áreas”, lo que sugiere una mayor flexibilidad para usuarios avanzados que requieren menos restricciones.

Estas características despertaron el interés de desarrolladores, startups y grandes corporaciones que buscaban aprovechar la potencia de los nuevos modelos para tareas como generación de texto, asistencia en programación y análisis de datos. Sin embargo, la misma potencia que los hace atractivos también plantea riesgos cuando caen en manos equivocadas.

La alerta de Amazon y la reacción de la Casa Blanca

Según fuentes citadas por The Verge AI, el detonante de la orden gubernamental fue una serie de conversaciones entre el equipo de seguridad de Amazon y la Casa Blanca. Investigadores de Amazon habrían descubierto técnicas para “jailbreakear” Fable 5, es decir, eludir sus filtros de seguridad y forzar al modelo a producir contenido que podría ser usado para planificar o ejecutar ciberataques, como instrucciones de explotación de vulnerabilidades o generación de phishing avanzado.

Ante esta amenaza, la administración de Joe Biden consideró que la difusión indiscriminada de un modelo con tal potencial de abuso representaba un riesgo nacional. La orden exigió a Anthropic bloquear el acceso internacional a ambos modelos, citando la necesidad de proteger la infraestructura crítica y la seguridad de los usuarios.

La respuesta de Anthropic

Anthropic actuó rápidamente, cerrando el acceso a Fable 5 y Mythos 5 para todos sus clientes, sin distinguir entre usuarios locales y extranjeros. En un comunicado, la empresa afirmó: “Estamos cumpliendo con la directiva legal del gobierno y eliminando el acceso a Fable 5 y Mythos 5 para todos los usuarios. Sin embargo, no creemos que la detección de una vulnerabilidad limitada justifique el retiro de un modelo comercial desplegado a cientos de millones de personas.”

Esta postura evidencia una tensión creciente entre la necesidad de innovación y la presión regulatoria. Anthropic argumenta que el modelo ya está en producción y que retirar su disponibilidad provocaría una interrupción significativa para clientes que dependen de sus capacidades, mientras que el gobierno prioriza la mitigación de riesgos potenciales.

Implicaciones para la industria de IA

1. Regulación emergente

El caso Anthropic se suma a una serie de eventos que muestran cómo los Estados Unidos están empezando a ejercer un control más directo sobre tecnologías de IA avanzadas. Tras el enfrentamiento entre OpenAI y el Pentágono, y ahora la prohibición de modelos de Anthropic, se perfila una tendencia hacia regulaciones más estrictas, especialmente en lo que respecta a la exportación de IA y la gestión de vulnerabilidades.

2. Soberanía tecnológica

El bloqueo de acceso a usuarios extranjeros refuerza la idea de que la IA se está convirtiendo en un bien estratégico. Países como China y Rusia podrían acelerar sus propios programas de IA para reducir la dependencia de tecnologías estadounidenses, lo que aumentaría la fragmentación del ecosistema global.

3. Responsabilidad de los proveedores

Empresas como Anthropic y OpenAI deberán invertir más en pruebas de seguridad y auditorías antes de lanzar modelos de gran escala. La presión para ofrecer herramientas potentes rápidamente puede entrar en conflicto con la necesidad de garantizar que no existan "jailbreaks" o vectores de abuso.

4. Impacto en los usuarios

Para los desarrolladores y empresas que ya integraban Fable 5 o Mythos 5 en sus productos, la suspensión repentina implica re‑evaluar sus pipelines, buscar alternativas o renegociar contratos. El riesgo de interrupciones operativas añade una capa de incertidumbre que podría desincentivar la adopción de nuevas generaciones de IA hasta que exista un marco regulatorio más claro.

¿Qué sigue?

El futuro inmediato de Anthropic dependerá de cómo gestione la relación con el gobierno y de si logra demostrar que sus modelos pueden ser seguros bajo supervisión. Algunas posibles vías incluyen:

  • Auditorías externas: Contratar a terceros independientes para validar la robustez de los filtros de seguridad.
  • Versiones restringidas: Lanzar versiones del modelo con capas adicionales de control para usuarios internacionales.
  • Colaboración con autoridades: Establecer canales permanentes de intercambio de información sobre vulnerabilidades con agencias de seguridad.

Mientras tanto, la comunidad tecnológica seguirá observando de cerca la evolución de la normativa en IA, que probablemente se traduzca en leyes más precisas y en la creación de organismos de supervisión similares a los que existen para otras industrias críticas.

En conclusión, el episodio Anthropic‑Gobierno de EE.UU. subraya la complejidad de equilibrar innovación, competitividad y seguridad en un entorno donde la IA avanza a pasos agigantados. La decisión de bloquear Fable 5 y Mythos 5 no solo afecta a una empresa, sino que marca un precedente que podría definir la forma en que los modelos de IA de próxima generación serán desarrollados, distribuidos y regulados a nivel global.