通义千问
本地大模型跑 Agent 实测：通义千问 27B 夺冠，垫底者败在'刹不住车'
一位 Reddit 工程师用统一基准对 15 款开源大模型做实测。通义千问 27B 以 71.8% 拿下第一，但垫底模型的失败原因揭示了一个被忽视的工程难题：AI 不会做不重要，会不会收手才重要。
返回首页
Bonsai
找到 2 篇关于此标签的文章
GGML
GGML 新增 Q1_0 1 比特量化：以 1.15GB 运行 8B 模型
GGML 现已支持 Q1_0 1 比特量化，将 Bonsai 8B 模型压缩至 1.15GB，实现纯 CPU 推理，大幅降低部署门槛。
4月6日3 分钟opcnew 编辑部reddit.com