找到 1 篇关于此标签的文章
这周被 r/LocalLLaMA 置顶的一篇论文提出'上下文语言模型'思路:让 AI 像编辑 Word 文档一样主动删改自己的对话历史,而不是被动堆叠。好处是长任务表现、显存效率、推理速度都有改善;代价是提示词注入风险升高,且目前只在 SGLang 推理引擎上跑得通。