HSTU

找到 2 篇关于此标签的文章

NVIDIA 让 AI 推荐快 5.93 倍 — 但这个数字需要 100% 缓存命中才成立

NVIDIA 发布 HSTU 推荐系统端到端部署方案，官方基准显示最高 5.93 倍加速。但「最高」和「100% 命中」必须绑在一起读——真实业务命中率往往只有一半。峰值数字不能直接拿来立项。

推荐系统的底层逻辑正在改变 — 从过去的检索、排序、预测流水线，变成对用户行为序列的统一建模。NVIDIA 与 Meta 本周联手，把后者 2024 年提出的 HSTU 架构推理做成了开箱即用的部署方案。这意味着电商、短视频的算法分发逻辑，可能很快进入'类大模型'时代。