这是什么

321B 参数，是 GPT-4 级别的体量。本周开源社区 Project Maya 把这个规模的中国大模型——智谱（Zhipu AI）的 GLM-5.3-Flash——跑进了一张 RTX 5090 家用显卡。原理是分层调度（MoE 架构下，把大模型拆成多组小专家，按需调用）：常用的放显存、次常用的放内存、不常用的放 SSD（硬盘），对话时按需搬运。实测：单卡 30+ token/秒（每秒生成的字数），四张 4090 拼起来 118 token/秒。MIT 开源协议（允许免费商用），量化（压缩到更小以省显存）后精度保留 97.7-99.2%。更关键的是：API 兼容 OpenAI 与 Anthropic——过去接 GPT 的应用可以不换代码就接到本地。

行业怎么看

正方兴奋点：中国大模型第一次在「开源模型 + 社区推理引擎」这条路线上，跟 Meta 的 LLaMA 体系正面看齐。开源 + 中文能力强 + 数据不出门，这个组合企业法务和采购都看得懂。

需要留意的反面：1）97.7% 这个数字是开发者自测，没有第三方 benchmark（公开评测基准）背书；2）按需搬运会产生延迟抖动，长链条任务可能掉速；3）单卡方案依然被显卡价格绑架——RTX 5090 一万六不是普通家庭开销；4）智谱 2025 年商业化压力很大，能不能持续投入社区是另一个问号。

编辑部判断：这件事的真正意义是「私有部署」的报价单开始松动。下半年值得跟踪的，是企业集成商敢不敢把方案预算砍一半。

对普通人的影响

对企业 IT：八卡 H100（数据中心级 GPU）的标配方案可以重新谈了，采购预算至少能压掉一个量级。

对个人职场：能在本机跑大模型处理内部合同草稿、行业报告，意味着敏感数据第一次可以不进任何云端。

对消费市场：短期利好高端消费显卡，真正吃到红利的是打包卖「企业私有 AI 方案」的集成商。