英伟达一次放出 3B、8B 两个 Nemotron-Labs-Sigma 模型,其中 8B 版本采用扩散语言模型,在质量与并行生成效率之间取得了值得验证的平衡。扩散语言模型不再按顺序逐字生成,而是并行处理一段文本,更接近图像扩散模型“由噪到图”的思路。

这是什么

简单说,扩散语言模型是把“写一句话”改成先铺一段草稿,再反复修整成最终答案。Sigma 8B 在低维连续向量空间中同时优化整块文本,默认每块生成 64 个词元,并可减少去噪步数以换取速度。英伟达将其描述为推理能力可比当时领先的离散扩散语言模型,但目前主要支持英文、8192 词元上下文,也没有 Flash Attention 等定制内核,实际优势仍需基准测试验证。

行业怎么看

我们注意到,本地模型竞争正在从参数规模和榜单成绩,转向单位时间成本、内存占用及部署门槛。若少量采样步数确实能保持稳定质量,8B 模型可让企业以单机设备运行更实用的私有文本任务,减少对高成本云端 API 的依赖。

风险也很明确:扩散生成的“并行改写”并不天然等于更快,少步数还会损失部分质量;该模型仍需通过 trust_remote_code 加载自定义代码,企业在引入前应审查代码与许可。当前材料主要来自模型发布方,尚不足以证明它在中文、事实准确性和复杂推理上全面优于成熟的逐词元模型。

对普通人的影响

对企业 IT:本地部署可能降低批量文档处理和内部知识工具的调用成本,但应先做中文场景、延迟和显存测试,再评估迁移。

对个人职场:8B 模型让离线写作、资料整理等任务更容易在个人电脑上运行,隐私更强,但现阶段体验取决于硬件和量化版本。

对消费市场:如果同类架构进入终端产品,设备生成文本的速度与离线能力可能改善,不过离普及到手机应用仍有距离。