D3D
D3D 让大模型推理最高提速 7.48 倍,但仍需走出论文
复旦大学团队提出 D3D,将草稿生成与目标模型验证并行化,在 Qwen3 测试中平均提速约 5 倍、最高 7.48 倍。值得关注的是,它瞄准了本地大模型推理延迟这一实际瓶颈,但跨硬件复现与成本收益仍待验证。
找到 1 篇关于此标签的文章
复旦大学团队提出 D3D,将草稿生成与目标模型验证并行化,在 Qwen3 测试中平均提速约 5 倍、最高 7.48 倍。值得关注的是,它瞄准了本地大模型推理延迟这一实际瓶颈,但跨硬件复现与成本收益仍待验证。