返回首页

SGLang

找到 3 篇关于此标签的文章

Context Language Models

AI 终于学会'整理自己的笔记' — 长任务 Agent 或许不再越聊越笨

这周被 r/LocalLLaMA 置顶的一篇论文提出'上下文语言模型'思路:让 AI 像编辑 Word 文档一样主动删改自己的对话历史,而不是被动堆叠。好处是长任务表现、显存效率、推理速度都有改善;代价是提示词注入风险升高,且目前只在 SGLang 推理引擎上跑得通。

10月5日4 分钟AI财经周刊www.reddit.com