一位 Reddit 用户用 Cloudflare 新推的客服小模型 Clef 跑了一道最基础的题「是否要退款」，置信度只有 0.57——满分 1.0。换成另一款叫 Jev 的模型，立刻 0.99。

这件事值得关心：企业用小模型替代大模型省钱的算盘，可能比想象中难打。

这是什么

Cloudflare（做 CDN 和网络安全那家）最近发了款叫 Clef 的小模型，专做客服工单路由——判断客户问题归哪个团队、紧急程度多高。模型很小，能在本地用 llama.cpp（开源本地推理框架）跑起来。测试用的是 Q4_K_M 量化版本（一种把模型体积压到 1/4 左右、牺牲少量精度的压缩方式），属于「普通企业也能跑」的那种。

行业怎么看

企业市场最近对「小模型」很上心：成本低、可私有化部署（装在公司自己服务器上、不走公网）、数据合规。Cloudflare、Anthropic Haiku、GPT-4o mini 都在抢这块。

反对声音也明显：模型压到几亿参数，「理解」能力的天花板被砍掉。Clef 在测试里虽然输出了正确分类（billing，账单问题），但置信度只有 0.51；紧急程度判断几乎在乱猜——「可等/今天/紧急」三档概率是 23%、42%、35%，等于没判断。

另一种声音：单条 prompt 测试不公平。但我们注意到，用户用的就是 Cloudflare 官方提供的 example 跑出这个结果，说明「开箱即用」体验本身就不及格。

对普通人的影响

对企业 IT：私有化部署小模型这件事，目前看还停在「技术验证」阶段，离生产可用有距离。别为省 token 钱（每次调用 AI 的计费单位），把客服质量搭进去。

对个人职场：用 AI 处理邮件分类、工单分流是真实需求，但选模型别只看「小」和「便宜」，要在自己真实数据上跑过再上线。

对消费市场：以后接到 AI 客服时，如果对方回答得很模糊、答非所问，背后可能就是这种「压到极限」的小模型在撑场。