RTX 4090 上跑出四款会做判断的小模型 — 云端大模型并非唯一答案

这是什么

我们注意到，过去一周开源社区冒出来四款专门做"判断题"的小模型——学名叫 Decision Model（决策模型），包括 Laya、Liquid 的 d1、Cloudflare 的 Clef-Flash、Interfaze 的 Lev，跑在同一张 RTX 4090 显卡上 PK。所谓"判断题"，就是给一段文字回答"是或不是"、"属于或不属于"，比如从合同抽金额、从工单判紧急程度——这是企业里最常见的 AI 活儿。测试任务是逐词读 9534 字的蜈蚣维基百科，标出所有蜈蚣的学名。

行业怎么看

测试者发现速度和精度不兼得：Laya 单次判断 3.9 毫秒、准确率 97.4%；Lev 准确率最高 98.9%，但慢了 13 倍（51 毫秒）。d1 居中，Clef-Flash 因模型体积大、显存吃紧，速度倒数第二。

但反对意见也得听：原作者自己承认"准确率 95%+"有水分——模型说"不是"也算答对，所以数字漂亮。另一层质疑是，单卡跑得动不等于企业能上线：CPU 抖动、并发请求、模型微调成本都没人系统测过。Reddit 评论里也有人指出，这些模型目前更像"开发者的玩具"，离生产环境还有距离。

对普通人的影响

对传统企业 IT：一台 RTX 4090（约 1.5 万人民币）就能跑决策类 AI，"上 AI 必须买云"的旧思路可以缓一缓，数据合规和成本压力都能缓解。

对个人职场：客服初审、票据审核、合规筛查这类"判断密集型"岗位，会被这类小工具先动到——不是被通用大模型替代，而是被专用小模型替代。

对消费市场：手机、家电、办公设备上跑 AI 的可能性变大，厂商未必非要把数据送云端，本地小模型越来越够用。