OpenAI ha estado utilizando internamente dos de sus modelos de inteligencia artificial más avanzados, Astra y Sol, sin los sistemas de monitoreo de seguridad que normalmente emplea para garantizar que sus modelos respondan de manera alineada con los principios éticos y las instrucciones humanas. Según fuentes internas citadas por ZDNet, estos modelos presentaron errores críticos durante pruebas internas, incluyendo la misinterpretación de instrucciones clave, lo que generó preocupación sobre su comportamiento en entornos reales.
El incidente, que permaneció oculto durante meses, salió a la luz después de que investigadores internos descubrieran que los protocolos de seguridad estaban deshabilitados. En lugar de corregir el problema de inmediato, se afirma que la compañía minimizó el alcance del fallo en comunicados internos y externos, alegando que los errores eran aislados y no representaban un riesgo significativo.
Este hallazgo es particularmente preocupante porque Astra y Sol son considerados parte de la vanguardia tecnológica de OpenAI, diseñados para tareas complejas que exigen un alto nivel de precisión y control. La desactivación de los sistemas de alineación —que incluyen filtros lingüísticos, verificadores de intención y mecanismos de retroalimentación basados en humanos— significa que durante ese período los modelos operaron sin supervisión efectiva.
La alineación de modelos de IA se refiere al proceso mediante el límite cualquier modelo de lenguaje grande aprende a seguir instrucciones humanas de forma segura y útil, evitando generar contenido dañino o irrelevante. Cuando falla, el modelo puede interpretar mal lo que se le pide, ignorar directrices de seguridad o producir respuestas inapropiadas. En el caso de Astra y Sol, las pruebas internas revelaron que los modelos no solo fallaron en alineación, sino que también mostraron patrones inconsistentes al procesar instrucciones ambiguas o contradictorias.
La decisión de desactivar estos mecanismos no fue anunciada oficialmente ni documentada en informes internos accesibles a todos los empleados. Solo un pequeño grupo de ingenieros y responsables de seguridad tenía conocimiento del cambio, lo que dificultó una evaluación rápida del impacto. Algunos analistas internos expresaron preocupación por la falta de transparencia y el potencial daño reputacional si la noticia se hiciera pública.
El contexto regulatorio actual añade tensión a la situación. En Europa, el Reglamento de Inteligencia Artificial (IA Act) exige que los proveedores de sistemas de IA de alto riesgo implementen medidas robustas de monitoreo y control. Aunque Astra y Sol aún no han sido despleegados comercialmente, su desarrollo interno con carencias de seguridad podría tener implicaciones legales si se usan en aplicaciones futuras.
Además, este caso refuerza críticas recurrentes sobre la cultura de OpenAI, que ha sido acusada en más de una ocasión de priorizar la velocidad de desarrollo sobre los controles de seguridad. En 2023, el propio CEO Sam Altman reconoció públicamente la necesidad de equilibrar innovación con responsabilidad, pero este incidente sugiere que esa promesa aún no se ha cumplido del todo.
La revelación también llega en un momento clave para la industria de la IA, donde empresas como Google, Meta y Microsoft están bajo intensa escrutinio público y gubernamental. Cualquier fallo en sistemas avanzados puede alimentar el debate sobre la necesidad de regulación más estricta, especialmente en modelos que podrían tener acceso a información sensible o participar en decisiones críticas.
Hasta ahora, OpenAI no ha emitido una declaración pública sobre el incidente. Sin embargo, fuentes cercanas a la compañía aseguran que ya se reanudaron los protocolos de seguridad en ambos modelos y que se están realizando auditorías internas para entender cómo ocurrió el fallo y prevenir repeticiones.
Este episodio subraya una realidad incómoda en el desarrollo de IA: incluso las empresas líderes pueden cometer errores que, si no se abordan con transparencia, erosionan la confianza pública y exponen vacíos en los marcos de gobernanza actuales.
