至少两套独立测试对 ISTA-DASLab 的量化模型成绩提出质疑，Basalt 开发者称换用 Unsloth 同规格版本后表现更好。我们认为，这说明当前模型量化基准最缺的不是更多排名，而是可复现的方法。

这是什么

量化，是把模型参数从较高精度压缩到更低精度，以减少显存占用并提高推理速度。ISTA-DASLab 公布的 gsq-rco 量化版本一度因基准表现受到关注，但该团队尚未公开完整测试方法；Unsloth 方面表示难以复现其成绩，并在自行测试中发现同规格量化模型表现更优。Basalt 推理引擎开发者也给出了类似对照结果。

这里需要区分两件事：模型原本的能力，与压缩后仍能保留多少能力。量化方式、计算硬件和推理框架都会影响结果，因此一次跑分不是完整结论。

行业怎么看

我们认为，这一事件再次提醒行业，公开可复现的测试流程比单次高分更重要。没有代码、配置和硬件说明的榜单，更适合作为线索，而不是采购或部署依据。

风险也很明确：榜单争议可能让团队误判模型优先级，并把时间浪费在反复切换版本上。反对另一种极端做法的理由同样充分——公开方法也不能消除硬件差异，基准测试只能辅助判断，不能替代真实业务验证。

对普通人的影响

对企业 IT：选型时应要求供应商提供测试配置，并用自己的文档、代码和流量做对照；同一家模型的不同压缩版本，表现差距可能大于品牌差异。

对个人职场：本地运行大模型不必紧盯榜单。能否装进现有电脑、响应速度是否够用、回答是否稳定，通常比名次更接近实际价值。

对消费市场：量化技术正在让更大模型进入价格更低的产品，但厂商公布的性能提升仍需谨慎看待；功能落地速度和稳定性，比“更高跑分”更能说明产品成熟度。