找到 1 篇关于此标签的文章
本周 r/LocalLLaMA 流传一项研究:通过「量化感知修复」技术,4-bit 压缩后的模型不仅没掉性能,跑分还超过了原版全精度模型。这事如果站得住,大模型部署成本可能再降一截。