改一个「搜索摘要不能当正文」的小问题,要从 Prompt(提示词)到 Tool(工具调用)、Runtime(运行时)、Evidence(证据层)、Recovery(恢复机制)一路改过去。这是掘金上一位 Agent(让 AI 自主完成多步任务的程序)工程师的实战复盘。我们注意到:当这类 AI 应用过了 Demo 阶段,真正卡住大家的不是模型有多强,而是「修一个 Bug 要改几层」。
这是什么
作者把常见的五层画出来:Prompt、Tool、Runtime、Evidence、Recovery。每一层看似职责明确,但写代码时会发现,一个事实——比如「这个网页到底有没有被读过」——可能在五层被重新定义一遍。修一个 Bug,自然要横着走。
他的核心判断是:架构成熟的关键不是层越来越多,而是同一类问题发生时修改半径越来越小。具体做法是把「事实的定义权」收回唯一一层,其他层只能消费它的投影。比如 Tool Host 才证明调用是否真的发生,Runtime 才证明权限是否还有效,模型只能判断「证据够不够」。
他给出了实测数字:通用研究请求序列化大小减少约 31%,基金场景约 12%,组合场景约 24%。
行业怎么看
支持者说:这才是 Agent 产品能不能上生产的分水岭。2024 大家忙着发 Demo,2025 下半年拼的是维护性——修 Bug 越快越便宜,迭代才越可能跑出来。
但也有不同意见。第一,模型本身在变强,这一代可能让「摘要当正文」这类低级问题自己消失,架构未必是主要矛盾。第二,「严格分层 + 单一定义权」对团队工程能力要求很高,反而给已有规模的公司加固护城河,小团队未必玩得起。第三,作者自己承认那组数字只证明请求变小了,没直接证明 token、延迟、回答质量改善——架构干净不等于业务有效。
对普通人的影响
对企业 IT:如果正在选 AI 供应商,过去看 Demo,接下来要看的是「出问题后多久能修、要不要推倒重做」。维护能力会成为新的采购指标。
对个人职场:「会用 AI」和「能维护 AI 系统」是两种能力,后者更稀缺也更值钱。懂工程化、能做架构判断的人,正在变成新刚需。
对消费市场:普通用户短期感受不到差别,但一年后产品稳定性、回答准确度的分化会很明显。愿意在底层下功夫的产品,会把「看起来差不多」的对手甩开。