Context Language Models
AI 终于学会'整理自己的笔记' — 长任务 Agent 或许不再越聊越笨
这周被 r/LocalLLaMA 置顶的一篇论文提出'上下文语言模型'思路:让 AI 像编辑 Word 文档一样主动删改自己的对话历史,而不是被动堆叠。好处是长任务表现、显存效率、推理速度都有改善;代价是提示词注入风险升高,且目前只在 SGLang 推理引擎上跑得通。
找到 3 篇关于此标签的文章
这周被 r/LocalLLaMA 置顶的一篇论文提出'上下文语言模型'思路:让 AI 像编辑 Word 文档一样主动删改自己的对话历史,而不是被动堆叠。好处是长任务表现、显存效率、推理速度都有改善;代价是提示词注入风险升高,且目前只在 SGLang 推理引擎上跑得通。
一位 Reddit 用户用单张 RTX PRO 6000 工作站,花三周测试国产开源模型 Qwen3.8 三个版本。结果:27B 稠密模型在一项综合竞技测试中拿到 700/1000,超过 Claude 和 GPT。这对企业 IT 选型有参考意义。
Miles v0.1 把 RL 后训练(让大模型反复做题-批改-改进)的工程难题拆开开源。中国开发者加入这场基础设施竞赛,"调教"大模型不再只是大厂专利。