量化压缩

27B 大模型被压到 1-2 比特量化 — 本地跑 AI 又省内存，但质量不稳定

本周 Reddit 用户 jojohai 把 Qwen3.8-27B 模型做成 Q1-Q2 极低精度版本，并把多 token 预测能力直接嫁接进权重。结论：内存占用比外挂方式更低，但关掉「思考模式」时模型「非常笨」，目前只是社区玩具。