OpenAI ha anunciado que a partir de ahora no permitirá que sus modelos de frontera (los más avanzados) accedan a internet durante el proceso de entrenamiento. La medida forma parte de una nueva fase de salvaguardas que la compañía ha puesto en marcha después de una serie de incidentes que expusieron las vulnerabilidades de estos sistemas.
Los incidentes a los que se refiere OpenAI incluyen desde generatedas de desinformación y contenido sesgado hasta fugas de datos que expusieron información confidencial. Aunque la compañía no ha detallado los casos concretos, fuentes cercanas al proyecto sugieren que los fallos se originaron en la capacidad de los modelos para acceder y procesar información en tiempo real desde la web. Esta práctica, aunque útil para mantener los conocimientos actualizados, aumentaba el riesgo de incorporar contenido nocivo, enlaces maliciosos o datos no verificados en los modelos.
El cambio no significa que OpenAI deje de recopilar datos externos. Lo que se elimina es el acceso continuo y en tiempo real a internet durante la fase de entrenamiento propiamente dicha. En su lugar, la compañía recurrirá a conjuntos de datos cuidadosamente seleccionados y curados, que se actualizan de forma periódica y se someten a rigurosos procesos de verificación. Este enfoque busca limitar la superficie de ataque y garantizar que el contenido introducido en los modelos sea seguro, ético y libre de información engañosa.
Desde el punto de vista técnico, el bloqueo de internet podría afectar la capacidad de los modelos para aprender de eventos recientes o comprender jergas y tendencias emergentes en líneas. Los competidores de OpenAI ya han experimentado con técnicas de entrenamiento offline, combinando grandes volúmenes de texto preexistente con ajustes posteriores (fine-tuning) para mantener la relevancia. Si bien esta estrategia puede reducir la capacidad de los modelos para responder a preguntas muy actuales, también disminuye la probabilidad de que reproduzcan información falsa o perjudicial.
El anuncio de OpenAI se produce en un momento en que los reguladores de todo el mundo están empezando a definir normas concretas para la IA de alta capacidad. La Uniión Europea, con su Ley de IA, y Estados Unidos, con las propuestas de la Administración Biden, están debatiendo medidas como la auditoría obligatoria, la transparencia en el entrenamiento y la limitación del acceso a datos no autorizados. Al implementar restricciones de seguridad proactivas, OpenAI pretende posicionarse como un actor responsable ante estas futuras regulaciones y mitigar el riesgo de sanciones o restricciones legales.
Para los profesionales de la tecnología, este cambio representa una señal de que la industria está priorizando la seguridad por encima de la expansión descontrolada. Es probable que otras grandes empresas de IA sigan el ejemplo, adoptando prácticas de entrenamiento más controladas y documentadas. Esto podría acelerar la estandarización de métodos de verificación de datos y fomentar la inversión en infraestructura de entrenamiento offline, lo que a su vez reduciría la dependencia de la web como fuente primaria de conocimiento.
En definitiva, la decisión de OpenAI subraya un cambio de paradigma: el desarrollo de modelos avanzados de IA debe equilibrar la innovación con la seguridad, la transparencia y el cumplimiento normativo. Los usuarios y las partes interesadas deberán esperar modelos que sean más confiables, aunque quizás menos actualizados en tiempo real, y las empresas que adopten estas prácticas de manera responsable podría obtener una ventaja competitiva en un mercado cada vez más regulado.
