让 AI 写错一句,可能只是返工;让 AI 自动发错邮件,就可能变成事故
上周三下午,我帮一个自由职业朋友搭客户留言分流工具。AI 把“暂时不用服务”判成“立刻要报价”,系统便给不该联系的人发了促销邮件。我盯着那封邮件时,也卡过一阵:明明只是想省点时间,为什么会错成这样?后来我才发现,麻烦不一定来自 AI 不够聪明,而是我们让它自由发挥得太多。
另一种思路:不让 AI 写答案,只让它做选择
这类方法通常叫“系统一模型”。别被名字吓到,你可以把它理解成一名快速分诊员:输入一段内容,它只从你给定的几个选项里选一个,或者返回分数和概率。它不负责写长文章,也不负责临场编流程,因此往往更快、更便宜,重复运行也更稳定。
TypeSafe AI 联合创始人 Diogo Almeida 在纽约举行的 AI Engineer Code Summit 上展示了类似思路。他的比喻很扎心:普通 AI 像“爱因斯坦和憨豆先生随机上身”,业务方若分不清这次是好结果还是坏结果,就很难放心交给程序自动执行。这也解释了它适合哪些场景:把客户留言分到售前、售后或暂缓,把订单按风险分成普通与人工复核,或从几种固定回复中选一种。
今天复刻:用 0 元搭一个最小分类器
钱:使用开源模型或现有电脑可做到 0 元;时间:先准备 100 条真实样本,约 2 小时;技术门槛:需要会复制配置并运行示例,不会写代码也没关系。第一步:打开你的内容工具,找出“分类、标签、评分”功能,新建一个只有“售前、售后、待人工”三个选项的分类任务,再拿 10 条旧留言测试。不要一上来就接网站或自动发邮件,先让输出留在一个表格里供你检查。这工具不是所有人都需要;如果你只是偶尔写文案、每天处理不到十条消息,现在不试也没事。
按你现在的工作量,选要不要试
刚起步:如果你每天收到的客户留言不到十条,我会先保留人工处理。等同类消息攒到几十条,再做一个三选一的小分类器,避免维护成本超过节省的时间。
有 1-2 个客户:如果你已经出现“复制上一封回复怕漏信息,临时重写又慢”的感觉,我会让它只负责归类,最终回复仍由你确认;同时保留一条“看不清就转人工”的出口。
在扩规模:如果多人都在重复做第一步筛选,我会记录每次人工纠正的原因,再把稳定规则交给程序执行。先从低风险环节开始,比如整理工单、打标签和排优先级,涉及付款、退款或公开承诺的动作继续留人复核。