El pasado viernes, el gobierno de Estados Unidos notificó a OpenAI que no podría distribuir su modelo más avanzado, conocido como GPT-5.6 Sol, a ciudadanos estadounidenses. La revelación coincidió con el lanzamiento de este modelo el 26 de junio, que según fuentes cercanas al proyecto, ofrece capacidades de razonamiento y generación de lenguaje sin precedentes para un modelo de acceso público. Sin embargo, lo que ha llamado la atención de la comunidad tecnológica es que un investigador independiente ha logrado obtener una versión reducida de un modelo de ChatGPT por apenas 100 dólares, un fragmento que, según se ha descubierto, es una versión recortada del que en 2019 costó a la compañía 43,000 dólares y 168 horas de entrenamiento en GPUs de alto rendimiento.
La historia comenzó cuando el investigador, que prefirió mantener el anonimato, adquirió un archivo de modelo de menos de 1 GB en un mercado de weights abiertos. Tras analizar el archivo, determinó que correspondía a una versión comprimida del modelo original desarrollado por el equipo de Karpathy en 2019, el cual fue el precursor de las posteriores iteraciones de ChatGPT. El archivo original, según documentos filtrados, requirió una inversión de 43,000 dólares en computación en la nube y un tiempo de entrenamiento de 168 horas en clusters de GPUs NVIDIA V100. El modelo resultante, apodado GPT-5.6 Sol, tenía una capacidad de contexto de 5.6k tokens y una arquitectura multi-cabezal que permitía una generación de texto coherentemente fluida.
Lo que el investigador reveló no es solo el precio del archivo, sino también los detalles de los hiperparámetros y las técnicas de optimización utilizadas. El archivo comprimido conserva la mayoría de los pesos del modelo original, pero reduce drásticamente el número de capas y el tamaño del embedding para hacerlo viable en un dispositivo de consumo típico. Esta "compresión" es un ejemplo clásico de cómo la comunidad de investigación puede democratizar la IA de alto nivel, permitiendo a cualquier persona con un PC modesto acceder a capacidades que antes estaban reservadas para grandes corporaciones.
La notificación del gobierno estadounidense se produce en un contexto de creciente preocupación por la proliferación de tecnologías de IA avanzadas. Las restricciones buscan evitar que modelos como GPT-5.6 Sol caigan en manos no autorizadas, especialmente considerando su potencial uso en la creación de desinformación, deepfakes o códigos maliciosos. Sin embargo, el descubrimiento de esta versión de bajo costo plantea preguntas fundamentales sobre la eficacia de tales controles cuando los pesos de los modelos pueden ser compartidos a través de redes descentralizadas. La naturaleza abierta de los datasets y la facilidad de replicación del entrenamiento con hardware de bajo costo sugieren que, eventualmente, cualquier modelo avanzado podría ser recreado por actores determinados.
Desde el punto de vista técnico, el impacto de este hallazgo es significativo. La "compresión" demuestra que las técnicas de reducción de modelo pueden preservar una parte sustancial de la capacidad original mientras reducen drásticamente los recursos necesarios. Esto podría acelerar la innovación en la creación de aplicaciones de IA personalizadas, especialmente en regiones con recursos limitados. Para los desarrolladores, esto significa un menor costo de entrada para experimentar con IA de nivel avanzado, fomentando un ecosistema más competitivo y diverso.
No obstante, las implicaciones políticas no deben subestimarse. Si un modelo que costó decenas de miles de dólares y semanas de entrenamiento puede ser distribuido por menos de 100 dólares, las regulaciones actuales basadas en el control de exportaciones podrían volverse obsoletas. Los responsables políticos tendrán que equilibrar el impulso innovador con la necesidad de prevenir usos maliciosos. La comunidad internacional, especialmente la Unión Europea, ya está trabajando en marcos de regulación como el AI Act, que podrían servir de referencia para futuros acuerdos globales.
En términos prácticos, este descubrimiento marca un antes y un después para la accesibilidad de la IA. Los profesionales de la tecnología pueden ahora prototipar soluciones basadas en lenguaje a una escala previamente inimaginable, mientras que los reguladores se ven obligados a repensar cómo proteger la seguridad pública sin sofocar el progreso. El debate está apenas comenzando, pero una cosa es clara: el modelo que una vez costó 43,000 dólares y 168 horas de entrenamiento ahora está al alcance de cualquier persona con un presupuesto de 100 dólares y una conexión a internet.