AI 客服
AI 客服聊到第 40 轮就崩：淘汰策略正在变成新的工程分水岭
AI 客服聊到第 40 轮就崩，问题不在模型——是上下文淘汰策略没人写好。一项生产测试显示，朴素截断让意图对齐率下降 28%。淘汰策略正在成为 AI 落地的新分水岭。
返回首页
上下文窗口
找到 3 篇关于此标签的文章
LocalLLaMA
本地玩家新思路：把上下文窗口当草稿纸长期记忆搬到模型外
一位 Reddit 用户用 32GB 显卡 + 9B 小模型组出 Agent 雏形，反「上下文越大越好」的行业共识。把工作记忆搬到外部文档里维护，值得每个被 AI 上下文限制卡住的人看看。
Qwen
64k 跑出 300k 效果 — 本地 AI 玩家开始怀疑'上下文越大越好'
本地 AI 玩家社群 r/LocalLLaMA 上，一位开发者提出：通过'递归子 Agent'（让主 AI 把大任务拆给多个子 AI 接力），64k 上下文也能跑 300k 的活。这动摇了头部公司烧钱堆百万 token 的路线。