这是什么
一个开发者用两块 16GB 显卡(4080 SUPER + A4000),在自己电脑上跑 Qwen3 27B 开源模型,让它「通宵」自动写代码——做出两个小工具:一个监控本地 LLM 服务状态,一个画 GPU 占用曲线。一台机器、一个人、一晚上。
这件事真正值得记录的,是他把工作流总结成可复制的规则:「记忆」写磁盘文件而不是塞进上下文;每段先机器验证(测试、类型、接口),再看人眼;人定规则、验收、叫停。一句话:这是「AI 当初级程序员,你当 Tech Lead」的真实操作手册。
行业怎么看
Reddit 本地 AI 圈普遍兴奋。判断集中在两点:第一,开源 27B 模型终于跨过「能连续干 8 小时不出大错」的门槛;第二,「记忆=文件、上下文=缓存」正在成为 Agent(自主执行任务的 AI 助手)开发的共识做法。
但也有冷静的反对意见。质疑一:27B 跑双卡只是「刚好能跑」,量化切换、显存争抢、空指针这些坑一个没落。质疑二更尖锐:指挥 AI 写代码 12 小时,到底是做产品还是玩昂贵游戏?把人变成 7×24「模型操作员」,成本算没算?
对普通人的影响
对企业 IT:过去 Agent 是 OpenAI、Anthropic 的产品;现在 5000 块二手显卡 + 开源权重,本地就能跑出 80% 场景的替代。中小企业「内部 AI 程序员」从想象走向预算表。
对个人职场:真正会被淘汰的不是「写代码的人」,而是「只会写代码、不懂拆任务、不懂验收的人」。指挥 AI 干活的能力,本质是项目管理能力换了工具。
对消费市场:订阅 ChatGPT 的理由被进一步削弱——「我的活我自己电脑也能干,还不传数据」。下一波 AI 消费品的卖点,可能从「更聪明」转向「在我自己机器上」。