本周技术社区流传一段 RAG 的「补丁」代码,直指企业 AI 知识库最让人头疼的老毛病——本地搜不到资料,也敢硬编答案。

这是什么

什么是 RAG?简单说,就是让 AI 回答前先查一遍资料库,比纯靠模型记忆靠谱。但它的老毛病是——本地搜不到相关内容时,不会承认「我不知道」,而是硬编一个答案糊弄过去。

这次的技术方案分三步:第一步,让一个「评估节点」用结构化字段(一种强制格式的输出)判断当前资料够不够答这道题;第二步,不够就自动触发联网搜索补料;第三步,补完再评估一次,够了才生成答案。

整个流程被设计成一个状态机(一种按步骤推进、每步状态可回看的框架),把本地检索和联网搜索的内容分两路存放,生成答案时能标注「这段来自本地,那段来自网络」,来源可追溯。

行业怎么看

支持方认为这是企业 AI 落地的关键补丁。知识库 AI 一旦被发现编答案,业务部门立刻失信,前期投入打水漂。

但也有冷静声音:评估节点本身也是模型在判断,它也会判断错;多一轮评估意味着更高延迟和算力成本,实时客服场景撑不住;更麻烦的是,联网搜索补进来的内容如果本身就是错的,等于把幻觉源头从本地换成了互联网。

RAG 工程师社区的老话题是——评估「可信度」比评估「内容够不够」更难,这道题目前没有银弹。

对普通人的影响

  • 对企业 IT:知识库类 AI 项目部署时,建议把「会主动承认不知道」写进验收标准,避免上线后被业务部门抓到幻觉反噬。
  • 对个人职场:用 AI 查公司内部资料时,看到引用了外部链接的回答要更警惕——它可能本来就不是从知识库来的,是临时上网补的。
  • 对消费市场:客服类 AI 产品如果在回答里明确标注信息来源,可信度会明显高于不标注的——这是一个消费者可直接感知的差异点。