30 多家公司、两年实践之后,AI 顾问 Hamel Husain 给出了一个明确判断:成功的 AI 产品团队,路线图主要数“实验”,而不是数“功能”。工具选型退居其次,真正决定产品质量的是能否看清错误、快速验证、持续迭代。

这是什么

这是一套以真实错误分析为核心的 AI 产品开发方法:先逐条查看用户对话,再归类高频问题,针对问题建立专项测试,最后用小改动检验效果。Nurture Boss 通过这套方法发现,66% 的错误来自日期理解不准;修复后,日期处理成功率从 33% 提升到 95%。

支撑它的并不一定是昂贵平台。团队可以从一张表格、一个定制数据查看器开始,把完整上下文、开放式备注和快速筛选放在同一页面;再让大语言模型帮助归纳失败类型。没有真实用户时,也能用合成数据生成测试问题,但必须加入真实业务规则和系统限制。

行业怎么看

我们认为,这反映了一个务实趋势:AI 产品的竞争正在从“模型和功能清单”转向“组织学习速度”。同样的模型,谁更早发现错误、谁更会用数据改进,谁就更容易形成稳定体验。领域专家直接编写和调整提示词,也能减少信息在业务与技术团队之间传递时的损耗。

但这套方法并非没有风险。过度依赖合成数据,可能把生成模型的偏见带进评测体系;只优化少数高频错误,也可能忽视低频但高损失场景。此外,Husain 所说的“迭代速度快 10 倍”缺少统一口径,不宜直接外推到所有团队。更重要的是,错误分析需要持续投入人工查看和标注,若管理层仍只追求上线速度与功能数量,这套方法很容易停留在建议层面。

对普通人的影响

对企业 IT:预算重点可能从一次性采购复杂 Agent 框架,转向数据查看、评测和标注工具。技术负责人需要同时管理模型效果、业务规则与真实错误,而不是只追踪功能上线。

对个人职场:AI 相关工作的价值点正在从“接入模型”转向发现问题和验证效果。懂业务、能判断输出质量、能把模糊需求转成可测试场景的人,会比单纯追逐技术名词更有协作空间。

对消费市场:使用 AI 产品的公司会更快修补高频失误,预约、查询、客服等体验有望更可靠;但消费者仍需关注错误类型和业务规则,不能仅凭演示流畅就判断产品成熟。