清华大学
清华给出扩散语言模型首份理论裁决:并行效率差距可达平方根级
清华团队用内在复杂度衡量扩散语言模型的并行能力,证明 uniform 与 Gaussian 路线在特定条件下只需约 √d 个生成步骤,而 masked 路线可能需要 d 步。这为长期依赖跑分判断路线优劣提供了理论标尺,但距离真实产品胜负仍有差距。
找到 1 篇关于此标签的文章
清华团队用内在复杂度衡量扩散语言模型的并行能力,证明 uniform 与 Gaussian 路线在特定条件下只需约 √d 个生成步骤,而 masked 路线可能需要 d 步。这为长期依赖跑分判断路线优劣提供了理论标尺,但距离真实产品胜负仍有差距。