这是什么

本周 r/LocalLLaMA 一位开发者用单张 RTX PRO 6000（96GB 显存）跑通了 DeepSeek V4 Flash 284B —— 一款参数总量约 2840 亿的混合专家（Mixture of Experts，模型内部拆分成多个"专家"子网络、按需激活）架构大模型。144GB 的模型装不进单卡，于是 21 层专家网络放显卡、19 层放内存，再叠加一种叫 DSpark 的"推测式解码"技巧：让一个小模型先猜几个词，主模型再批量验证。最佳编程场景速度 31 tok/s（每秒生成的最小语言单位），比不用此技巧快约 15–17%。

最有意思的发现：那个 10GB 的辅助小模型放在普通 DDR5 内存里，反而比放在昂贵显存里快 4.4%。原因是显存留给"主模型"才更划算 —— 小模型只是偶尔被调用，主模型每一步都要在。

行业怎么看

支持方认为这是开源大模型走向本地化部署的里程碑：单卡工作站就能跑通接近前沿水平的大模型，意味着企业自建 AI 不再需要堆 GPU 集群，云厂商的算力定价权被悄悄削弱。

但值得警惕的是：这是一次单卡、单工作负载（编程）、单平台的测试，不代表稳定可生产。31 tok/s 对单用户勉强够用，多并发场景会迅速恶化。本地化要真正替代云端，至少还要解决高可用、运维、安全和成本摊销这几个老问题。

对普通人的影响

对企业 IT：自建大模型的硬件门槛在降，但还没到"非云不可"的程度。我们建议再观察 6–12 个月的实际生产部署案例，再决定是否启动 PoC（概念验证，小范围试点）。

对个人职场：短期无直接影响 —— 单卡仍在 4–5 万元区间，配置和维护都需要专业能力。间接影响是：云端 AI 服务的议价空间会逐步扩大。

对消费市场：长期看，AI 服务成本下行最终会传导到 SaaS（软件订阅服务）定价；但近一两年内，C 端（消费者端）用户感受到的变化还很有限。