找到 1 篇关于此标签的文章
海外开发者把 Qwen 系列 177B(约 1770 亿参数)开源模型量化压缩后,跑在万元级消费 PC 上,速度达到 11-15 tok/s。值得关心的是:开源社区正在用工程优化,把「本地跑大模型」从不可能变成勉强可用。