La cuantización de 4 bits en modelos MoE causa cambios en la ruta de expertos
Un estudio revela que la cuantización de 4 bits en modelos Mixture-of-Experts genera cambios en la asignación de expertos, con un 31% del daño atribuible a la ruta. La detección es posible, pero no se puede predecir su impacto.
5 min lectura2hIAOnda Redaccion
