货拉拉这周在掘金(中文技术社区)发了篇长文,把自研的大模型"记忆系统"拆得底朝天。这事值得关心的不是技术多炫,而是它撕开了企业 AI 的一个真相:模型再强,记忆层没做对,AI 就是个"金鱼脑"。
这是什么
货拉拉(一家同城物流公司)的 AI 外呼系统给司机打电话,发现一个具体问题:司机说过"不接长途"、提过"价格再高才接"——下次再打,AI 又从零开始,同一套话术重复一遍。
问题不在模型能力,而在工程实现:每次调用模型,系统只把"这一通电话"的内容传进去,上次聊过什么根本不在上下文里。
文章里有个核心区分值得划重点:「历史记录不等于记忆」。历史是按时间顺序堆着的对话原文;记忆是把对话里值得留下的事实(偏好、顾虑、进展)抽取出来,结构化、可检索、且能随新信息更新。
货拉拉的方案分两块:
- 在线侧:会话结束后自动抽取关键事实写入记忆库;用户提问时混合检索(结合关键词和语义相似度)找出相关记忆。
- 离线侧:定期"整理"记忆库,处理重复、过时、冲突——文章甚至借用人类睡眠的比喻(轻度睡眠、深度睡眠、REM 睡眠)描述不同层次的维护。
行业怎么看
业内对"记忆层"建设基本两种声音。
主流看法认为这是企业级 AI 的核心瓶颈之一。LlamaIndex、Mem0 等创业公司都押注这一方向;OpenAI 的 ChatGPT 长期记忆、Anthropic 的 Projects 功能,本质都在解决同一件事。货拉拉这种规模的工程实践,验证了"通用方案不够用"的判断。
但反对意见也值得听:这种系统复杂度极高,文章自己就写了失败处理、重试、并发控制的大量机制——一家中型公司照搬这个架构几乎必然失败。更现实的路径可能是先接入第三方记忆中间件,跑通业务再考虑自研。
另一个被忽视的问题:记忆系统让 AI 更"懂"用户,但也意味着更多隐私和数据合规负担。司机和用户的对话被长期结构化存储,合规边界在哪、文章没提,但绕不过去。
对普通人的影响
- 对企业 IT:评估内部 AI 项目时,别再被"模型能力有多强"迷惑。模型只是冰山一角,记忆和检索层才是让 AI 在生产环境真正可用的关键。
- 对个人职场:如果你在公司负责 AI 落地,发现 AI 总是"重复犯错",问题大概率不在模型,而在记忆层没做对。
- 对消费市场:下次接到 AI 客服电话,对方居然记得你上次说过什么——别惊讶,这是各家正在卷的方向;但也意味着你的对话正在被更结构化地记录。