清华大学
清华给出扩散语言模型首份理论裁决:并行效率差距可达平方根级
清华团队用内在复杂度衡量扩散语言模型的并行能力,证明 uniform 与 Gaussian 路线在特定条件下只需约 √d 个生成步骤,而 masked 路线可能需要 d 步。这为长期依赖跑分判断路线优劣提供了理论标尺,但距离真实产品胜负仍有差距。
找到 2 篇关于此标签的文章
清华团队用内在复杂度衡量扩散语言模型的并行能力,证明 uniform 与 Gaussian 路线在特定条件下只需约 √d 个生成步骤,而 masked 路线可能需要 d 步。这为长期依赖跑分判断路线优劣提供了理论标尺,但距离真实产品胜负仍有差距。
新加坡国立大学DMax模型将扩散语言模型并行解码效率提升近3倍,若此技术路线成熟,AI推理成本将再次跳水,倒逼所有依赖API计费的企业重新核算ROI。