这是什么
一位有 20 年经验的软件工程师(机械工程科班出身)最近在自家电脑上做了一组对比测试:让两个开源大模型——Google 的 Gemma4-31B 和阿里千问的 Qwen3.8-27B——做他日常工作中的两件真实任务。
第一件是「读懂陌生代码库」:给一个他不熟悉的开源项目,让 AI 用 900 字内说清核心抽象、调用方要注意什么、有哪些优缺点。第二件是「从零写项目」:一个原本要他本人花 1-2 天手写的 C# + WPF(Windows 桌面端界面框架)小工具,约 8 段提示词描述需求,让 AI 直接生成。
两个模型都压缩到 Q4 精度(量化,即用更少比特存储参数,让大模型能跑在消费级显卡上),分别用 Codex CLI 和 OpenCode CLI 两种命令行工具做运行环境测试,后者差异不大。
行业怎么看
最终打分:Gemma4 给 B-,Qwen3.8 给 B+。这位工程师观察到两类风格差异——Gemma4 像「快枪手」:理解任务精准、调用次数少(~10 次 vs Qwen 的 20-30 次),但第一版成品只能算勉强过关,要好几轮反馈才能打磨到能用。Qwen3.8 像「笨学生」:小错误多(漏 using 语句、自己绕自己),但目标更高、坚持更久,最终结果反而少一轮返工。
值得肯定的一面:开源本地模型已经从「跑 demo」阶段走到「能交付真实任务」,这对闭源模型是真实的市场压力。
但也需要冷静:这是单个工程师对一个项目的主观评价,不是系统性基准;B+ 仍意味着需要多轮迭代才能收敛到可用;本地跑 31B 量化模型需要 RTX 4090 级别的显卡,单卡投入万元起步;面对 Claude、GPT 这类闭源顶级模型,在更复杂任务上的差距依然存在。
对普通人的影响
对企业 IT:数据不出内网,金融、医疗、政务等敏感行业可以用本地大模型做代码辅助,不再受制于云端 API(云端接口)的数据合规风险。
对个人职场:程序员已能把本地 AI 当结对编程助手,但还远未到替代正式工程师的程度;非技术岗位目前基本用不上。
对消费市场:要本地跑 31B 级别模型,一块万元显卡仍是门槛;普通用户更多会通过云服务间接受益,而不是自己部署。