OpenAI
上下文窗口装不下之后,Agent 记忆成了工程活
上下文窗口(模型一次能读取的信息上限)不是无限容器,历史越多,回答反而越容易漏掉重点。文章给出裁剪、压缩和外置三种方案:分别以遗漏、细节损失和额外读取为代价,跨会话记忆的关键其实是把状态写进文件,而非给模型加一个开关。
找到 1 篇关于此标签的文章
上下文窗口(模型一次能读取的信息上限)不是无限容器,历史越多,回答反而越容易漏掉重点。文章给出裁剪、压缩和外置三种方案:分别以遗漏、细节损失和额外读取为代价,跨会话记忆的关键其实是把状态写进文件,而非给模型加一个开关。