En el ecosistema de la Inteligencia Artificial, la transparencia ha sido el mantra de los últimos meses. Con el auge de los modelos de pesos abiertos (Open-Weight Foundation Models o OWFMs), la comunidad técnica ha confiado en las denominadas 'Model Cards' como la herramienta definitiva para informar sobre capacidades, sesgos y limitaciones de los modelos. Sin embargo, un reciente 'position paper' publicado en arXiv pone en duda esta confianza, sugiriendo que el marco actual es insuficiente para una gobernanza segura y efectiva en aplicaciones de uso descendente (downstream).

El problema radica en una brecha de seguridad crítica. Tras analizar 500 Model Cards alojadas en Hugging Face, los investigadores han detectado que los formatos actuales no logran comunicar adecuadamente los riesgos específicos que conllevan los modelos de pesos abiertos. A diferencia de los modelos cerrados, donde el control es centralizado, los modelos de pesos abiertos permiten que cualquier desarrollador los descargue, los modifique y los implemente en entornos fuera del control del creador original. Esta descentralización crea un vacío de responsabilidad que las fichas técnicas actuales no alcanzan a cubrir.

El análisis revela que las estrategias de regulación existentes —como el seguimiento del linaje del modelo, la procedencia del alineamiento o el análisis de comportamientos empíricos— dejan lagunas importantes. No basta con saber con qué datos se entrenó un modelo si no existe una forma coherente de integrar la información técnica con las restricciones de uso. Aquí es donde entra en juego la propuesta de los autores: la necesidad de un enfoque de gobernanza multicapa.

Este nuevo paradigma propone la integración de tres componentes fundamentales que actualmente operan de forma aislada: las Model Cards (dimensión informativa), las Políticas de Uso Aceptable o AUPs (dimensión normativa) y las Licencias (dimensión legal). El estudio advierte, además, que las licencias de código abierto estándar (OSLs) no son las más adecuadas para los OWFMs, ya que su naturaleza permisiva puede debilitar la capacidad de hacer cumplir las políticas de uso seguro.

Para los profesionales del sector, esto significa un cambio de mentalidad inminente. La gobernanza de la IA ya no puede entenderse solo como un ejercicio de documentación técnica, sino como un ecosistema integrado donde la seguridad del modelo debe estar vinculada legal y normativamente a su implementación. Si queremos que la innovación de código abierto sea segura y responsable, debemos evolucionar hacia artefactos de seguridad integrados que conecten la capacidad del modelo con las restricciones de su uso en el mundo real.

Este debate es crucial en un momento en que la Unión Europea y otras jurisdicciones están definiendo los límites de la responsabilidad en la IA. Si las herramientas de transparencia actuales fallan en comunicar riesgos críticos, la brecha entre la innovación tecnológica y la seguridad regulatoria seguirá creciendo, dificultando la adopción responsable de la IA en sectores críticos como la salud o la infraestructura.