Ternary Bonsai 2

27B 大模型本机推理提速 2 倍 — 开源社区开始做云厂商的活

开发者微调'猜测小模型'，让 27B 大模型在 L4 显卡提速 2.2 倍、Mac 提速 1.5 倍、浏览器提速 1.2 倍。开源社区正在补齐本地 AI 与云端服务的体验差距。