同样一个模型，在RTX 3090上每秒能输出多少Token，经过4-bit、3-bit量化后又能提升多少，都是玩家非常关心的问题。 但实验揭示了一个容易被忽视的现象：即使某种量化方案改变的Token数量较少…...
