NVIDIA英伟达为长上下文推理协同设计稀疏注意力,成本瓶颈有了新解法长文档、代码库和 Agent 工作负载正把模型上下文推向十万级,注意力计算成为推理成本瓶颈。英伟达提出软硬件协同设计稀疏注意力方案,目标是在保留关键信息的同时降低延迟与资源消耗。11月17日·3 分钟·AI财经周刊·developer.nvidia.com