找到 1 篇关于此标签的文章
个人开发者把 30B 的 Muse-Glimmer 通过砍宽度 + 蒸馏做成 14B 模型 Xyntetik-Kvist-14B,60 个工具调用任务完成 57 个,量化后能塞进一张 24GB 消费显卡。跑 Agent 不一定要堆云端算力,本地部署的成本结构正在改变。