GGMLGGML 新增 Q1_0 1 比特量化:以 1.15GB 运行 8B 模型GGML 现已支持 Q1_0 1 比特量化,将 Bonsai 8B 模型压缩至 1.15GB,实现纯 CPU 推理,大幅降低部署门槛。4月6日·3 分钟·opcnew 编辑部·reddit.com