我们注意到,Ornith Lab 这周发布 Ornith 1.5 系列开源模型,包含 9B(带视觉)和 35B-A3B 两种规格,全部 MIT 协议(免费可商用)。一个由 Atomic Chat 联合创始人带队的社区团队做了一组量化压缩(把模型"瘦身"以便在低配置硬件上运行)对比:9B 模型压到 5.6 GB 后,回答准确率仍达到 91.93%。
这是什么
Ornith 1.5 是 Ornith Lab 推出的新一代开源模型系列。9B 版本(参数量约 90 亿,粗略可理解为模型"脑细胞"数量)带图像识别能力,适合在消费级显卡或高性能笔记本上运行;35B-A3B 是混合专家架构(模型内部由多个"小专家"组成,每次推理只激活其中一部分,兼顾性能与成本),量化后约 20 GB。
两个版本都采用 MIT 协议,可免费下载、修改、商用,权重和配置文件全部托管在 Hugging Face 平台。官方说明提到模型使用了"自生成任务"训练循环——让模型自己出题自己练,目的是降低人工标注成本。但具体效果仍待第三方独立验证。
行业怎么看
本地 AI 社区普遍给出正面评价。Atomic Chat 的对比测试显示,他们自研的"原子动态"量化方案在每个文件大小档位上,都比 llama.cpp(目前最主流的开源模型运行框架)的默认方案保留了更高的回答准确率——例如 9B 模型压到 4.29 GB 极小体积时,仍有 83.44% 的 top-1 命中率(模型首选答案与原始模型一致的比例)。这意味着用户用更便宜硬件就能跑出接近原版的体验。
但也有谨慎的声音。Ornith Lab 相比 Meta 的 Llama、阿里通义千问等成熟团队,社区生态和长期维护能力尚未经过验证。官方提到的 397B 大模型版本虽然存在,但资料稀缺,"自生成任务"训练循环的效果在大模型上是否稳定仍是未知数。有用户在 r/LocalLLaMA 评论区指出:"漂亮的数据是一回事,能不能稳定复现、半年后还会不会有人维护,是另一回事。"
对普通人的影响
对企业 IT:MIT 协议意味着免费可商用,中小企业部署私有 AI 助手的合规与授权成本进一步降低。
对个人职场:9B 模型已经能在 16GB 内存的笔记本上运行,未来 Notion AI、飞书智能伙伴这类工具的部分功能可能直接在本地完成,不需要把数据传到云端。
对消费市场:小模型性能逼近大模型,AI 助手类应用的订阅价格可能继续承压,用户对"本地化、隐私友好"的偏好会获得更多产品响应。