在企业 AI 落地一年后,开发者社区这周把矛头对准一个尴尬事实:当前的 RAG(Retrieval-Augmented Generation,让 AI 先查文档再回答的技术)连"1+1=几"也要翻一遍整个文档库。
这是什么
RAG 是过去两年企业 AI 的事实标准——把内部文档喂给模型,让它"有据可查"再回答,避免胡编。但问题在于,这套架构不分青红皂白,所有问题都走检索流程。
这周掘金上一篇被广泛讨论的技术文章给出了两个补丁。第一个叫"分诊台":让模型先用结构化输出(一种强制 AI 给出固定格式答案的方法)判断"这是常识题还是需要查资料的题"——简单问题直接答,复杂问题才检索,路径和数据全程可追溯。第二个叫"拆题术":遇到需要跳好几段原文才能答出的问题,让模型先拆步骤、再分步检索,而不是一次丢个模糊的大问题。
本质上,这是把"无脑检索"升级为"按需检索+有规划检索"。
行业怎么看
支持者认为这是 RAG 从"能用"走向"好用"的标志。企业客户最在意的从来不是答案对不对,而是每千次问答的成本和响应时延。分诊机制能砍掉一半冗余检索,在大客户账本上是真实节省。
但也有冷静的声音。第一,分诊本身依赖模型判断,而模型判断也会出错——把"复杂问题"误判为"简单"直接答,反而更危险;幻觉(AI 一本正经地胡说八道)可能以更隐蔽的形式出现。第二,这套架构目前只在头部开发者社区活跃,绝大多数企业 AI 项目还卡在"先把基础 RAG 跑通"的阶段,谈分诊是奢侈品。第三,"分诊"只是修补丁,RAG 真正的天花板——模型读不懂长文档、结构化数据接不进来、多模态资料难以检索——并没有被解决。
对普通人的影响
对企业 IT:如果你们在评估知识库类 AI 工具,可以多问一句"是否带问题路由/分诊能力"——这是判断厂商是否走深的一个信号,也直接影响长期使用成本。
对个人职场:用 AI 助手查公司内部资料时,遇到回答"不太靠谱"未必是工具差,可能是它跳过了检索直接猜。可以明确要求"先查文档再答",逼它走重装备那条路。
对消费市场:智能客服、文档助手类产品会变得更"识趣"——闲聊不浪费算力,真问题才调用深度检索。体验上,会更接近一个"懂行的同事"。