cyankiwi

4 比特量化把 35B 模型压到 23GB 左右，本地部署门槛还在继续下降

Qwen3.6 的一组新量化测试显示，27B 和 35B 级模型可以在约 19GB 到 23GB 权重体积下，尽量接近 BF16（16 位浮点基线）的输出表现。这值得关心，因为大模型竞争正在从“谁更强”转向“谁更容易被企业真正跑起来”。