NVIDIA
英伟达开源8B扩散语言模型,本地推理速度与质量开始兼得
英伟达发布 Nemotron-Labs-Sigma 8B/3B 扩散语言模型,不再逐个生成词元,而是并行处理文本块。模型支持少量采样步数加速,并已进入 Hugging Face,值得关注的是本地部署效率提升能否转化为真实成本下降。
找到 1 篇关于此标签的文章
英伟达发布 Nemotron-Labs-Sigma 8B/3B 扩散语言模型,不再逐个生成词元,而是并行处理文本块。模型支持少量采样步数加速,并已进入 Hugging Face,值得关注的是本地部署效率提升能否转化为真实成本下降。