本周 Reddit 上一位开发者尝试用 287M 参数（不到 GPT-4 的 1/500）的小模型替代 Claude，处理 500 万份德国法院判决书。结论是：能跑，但精度卡在老师（Claude）身后一截。

这是什么

这个帖子的本质是一个企业级文档处理的成本实验。

开发者先让 Claude Sonnet 给 700 份判决书做"批改"——标注出里面的人名、机构、法律条款、金额、日期（这一步叫"数据标注"）。然后用这些标注训练一个叫 GLiNER 的小模型（一种轻量级的文本标注 AI，只有几百 MB 大小），让它学会自己批改剩余的 499 万份。

大模型的好处是聪明，坏处是每处理一份文档都要收 API 调用费（每次调用 AI 服务的费用），500 万份跑下来是天文数字。小模型训练一次后可以无限次复用，单份成本接近零——这就是企业 IT 真正关心的核心问题：怎么把 AI 用得起。

开发者的结论很诚实：小模型能干活，但总差老师那么一点。Reddit 上也没人能告诉他具体差在哪。

行业怎么看

乐观的看法是：这条路是对的。微软、Mistral、HuggingFace 这两年都在力推"小模型"（SLM），认为企业落地 AI 不需要每次都调用 GPT-4。一个 287M 的模型可以装进普通服务器，对数据合规要求高的行业（医疗、法律、金融）有天然吸引力。

但帖子里这位开发者也抛出一个务实的反对声音：他最怕的不是"模型不够准"，而是"我不知道它哪里不准"。500 万份文档跑完才发现某个关键字段抽错了——在法律场景里，这种风险是不可逆的。所以即便成本诱人，在高风险行业里，"最后那 5% 的精度差距"很可能决定它能不能真正进生产线。

还有一层隐患很少被讨论：训练数据本身就是大模型标的，相当于小模型继承了大模型的所有偏见和盲点。Reddit 评论区里也没人给这位开发者一个明确答案——这本身就说明这条路还没走通。

对普通人的影响

对企业 IT：如果你们公司有大量结构化文档（合同、发票、报关单、病历、判决书），"大模型标数据 + 小模型跑生产"这条路径值得做一次小规模试点。它不是技术问题，是工程问题——能不能承担那最后 5% 的误差。

对个人职场：做审计、合规、法务助理、文档录入这类重复劳动的人，会最先被这类工具挤压。不是"被 AI 取代"，而是"被 AI 辅助过的同事取代"——他们的工作量和单位产出都会显著变化。

对消费市场：短期内消费者感知不强。但你打交道的银行、保险公司、法院系统，三年后处理你申请的速度和成本可能会显著下降——前提是他们愿意承担那最后 5% 的误差。