QwenUnsloth
Reddit 用户催更阿里 35B 模型压缩 — 开源 AI 算力门槛又悄悄降了一档
一条 Reddit 请求呼吁把阿里 Qwen 35B 模型用新一代压缩方案重新量化。背后是开源 AI 算力效率持续突破,本地部署成本正在结构性下降。
8月27日·2 分钟
Qwen3.5GGUF
Qwen3.5-9B GGUF Quant Rankings: Q8_0 Dominates KLD Scores
社区对 Qwen3.5-
9B 逾 35 种 GGUF 量化版本的 KLD 基
准测试显示,Q8_0 变体得分接近 0.001,Q5 以
下质量急剧下降。
4月14日·2 分钟