本周 r/LocalLLaMA 上一个不起眼的帖子引起了我们的注意:开发者 tarruda 放出了 Ornith 1.5,包含 9B 密集模型(每次推理全部参数都参与计算)、35B 和 397B 的混合专家模型(MoE,即模型内部拆成多个'专家'子网络,每次推理只激活其中一部分)。三个尺寸一次给齐,397B 这种过去只有头部大厂才碰的规模,现在个人开发者也能做 — 我们关心的是这件事背后的趋势信号,而不是模型本身有多强。

这是什么

Ornith 1.5 是一组面向社区的开源大语言模型,由开发者 tarruda 在 Reddit 上发布,覆盖三种规模:9B 密集版本、35B MoE 和 397B MoE。从帖子信息看,这是为本地部署(在自己机器或自有服务器上跑模型)设计的项目。我们能确认的是尺寸参数和权重(可下载的模型文件)确实存在,但训练数据来源、第三方评测分数、商业落地案例目前都是空白 — 这本身就是我们需要打折扣的地方。

行业怎么看

支持者的判断很直接:397B MoE 能由个人或小团队放出来,说明开源生态的工具链(从数据清洗、训练到部署的一整套软件)已经足够成熟,三年前这件事不可想象。这也印证了我们观察到的趋势 — 模型层不再是稀缺资源,算力、数据和应用层才是。

但我们必须列出几个风险。第一,目前没有任何独立第三方基准测试(用统一题目给所有模型打分)出炉,性能纯属发布者自述;第二,397B MoE 对显存(GPU 的工作内存)要求极高,粗略估算需要多张高端 GPU 协同,绝大多数企业根本跑不起来,所谓'开源可用'对多数人是空话;第三,社区里已有人质疑这是'套壳发布'—— 用现成架构重新训练一遍就敢叫 1.5,名字唬人,实质存疑。

对普通人的影响

企业 IT:如果你们在评估本地部署大模型,不要被参数规模冲昏头。397B 跑不动是现实,9B 或 35B MoE 才是真正能落地的区间,且必须看第三方评测而非发布者自述。

个人职场:短期内对你没直接影响。但开源模型变多变便宜,意味着未来公司采购的 AI 工具成本会继续下降,定制化空间会变大 — 这是你下次谈涨薪时可以提的背景。

消费市场:目前与你无关。这些模型要么跑在云端按 token(模型处理文本的计量单位)收费,要么需要几万块的硬件,消费者端产品用到这个级别能力,至少还要一到两年。