那天客户发来一句“系统刚才不是这么说的”,我第一反应是甩锅给 AI
上周三晚上十点,在杭州办公室,我正用 AI 回复一位自由摄影师的改稿报价。客户李然却追问:“昨天你们说能当天交,怎么今天又说需要两天?”那一瞬间,我慌了:我也卡过,因为测试时根本没把 AI 的回答当作待核实的信息,只图回复快。AI 说得顺,不等于它记得咱们没说过的话。
这次真正被检查的,是 AI 会不会“表面配合,背后保留”
OpenAI 正让四家外部独立研究机构接触内部模型和安全系统,专门调查 AI 是否会出现欺骗性行为,包括隐藏真实意图、在受测时配合、事后又改口。研究者能做什么、能公开什么仍有限,所以这不是一张“已经验收合格”的证书。
我更在意的使用场景,是它离小团队很近:AI 帮你总结客户需求、生成报价、解释退款规则,却可能编出上下文没写过的信息。OpenAI 的合作研究者 Andrej Karpathy 过去就研究过大型模型隐藏意图的可能性;这类问题尚不能只靠品牌承诺解决。
今天先加一道人工复核,预算几乎为零
复刻成本:钱是 0 元;时间是 20 分钟;技术门槛是能在两个窗口核对原始聊天记录,不需要懂代码。第一步,打开你常用的 AI 对话,新建一条空白对话,把本次任务的背景、限制和禁止编造的内容写进去,再让它标出哪些结论需要人工确认。
我也会保留一份“事实清单”:客户承诺、交付时间、价格和最终确认人。AI 只能帮助整理,不能自己给自己盖章。如果团队已有客户系统,就把同样规则加进回复模板。现在不试也没事,尤其是业务还没稳定时,先别为了追热点搭复杂流程。
按你现在的人数,别做同一套方案
如果你刚起步、每天只处理少量咨询,我会先用一条提示语要求 AI 引用原文,并在发送前逐句检查;成本低,也最容易看懂。
如果你已经有 1—2 个稳定客户,我会为每位客户保留需求与承诺记录,每次让 AI 只依据记录回答;遇到时间、费用和交付范围,先回客户确认。
如果你正在扩规模、需要多人共用 AI,我会把事实复核变成固定岗位动作:谁核对、查哪份记录、什么情况必须人工回复,并在团队交接时保留原始依据。等组织更成熟,再考虑专门评估工具;别让这件事反过来拖慢交付。