一个 11.7 亿参数的模型在作者自测中拿下 85.5%,而 Qwen2.5-1.5B 为 53.3%;这组结果的看点不是“又一个小模型”,而是单张 RTX 5090 和约 110 亿训练 token 就可能形成实用优势。不过,数据、代码和模型均由作者提供,结论仍需外部验证。
这是什么
ConeML 是一个稀疏混合专家模型(MoE,指每次处理信息时只调用部分参数,以降低计算成本)。模型共存储约 11.7 亿参数,但每个 token 实际激活约 3.48 亿参数,开发者使用单张 RTX 5090 完成训练。Q8 量化版约 1.25GB,可在 CPU 上运行。
作者设计了一套“事实链”测试:将人物或对象的相对关系打乱,再让模型沿着关系找到终点。链越长,难度越高。ConeML 在深度 1、5、12 和 24 的测试中均领先 Qwen2.5-1.5B、SmolLM2-1.7B、Llama 3.2 1B 和 Gemma 3 1B。
行业怎么看
我们认为,这说明模型效率未必只取决于参数规模与训练数据量,架构、训练方法和针对任务设计都可能改变性价比。对希望本地部署、算力预算有限的企业和小团队,这类可量化、可在普通硬件运行的模型值得进入测试清单。
但反对意见同样明确:作者承认 ConeML 在链中关系比较任务上的准确率只有 13.8%,HumanEval 编程测试仅得 12/164,六次双轮对话测试全部失败。它更像掌握了特定查找策略,而不是稳定获得通用理解能力。此外,85.5% 来自作者自建测试,Q8 版本也尚未验证能否复现 FP32 结果,因此不能据此判断它已优于成熟模型。
对普通人的影响
对企业 IT:小模型正在把部分文档检索、知识整理和固定流程任务的部署成本继续压低,但正式采用前应复测准确率、速度与硬件兼容性。
对个人职场:本地运行、量化压缩和单卡训练会让更多非大公司团队具备定制模型的条件,专业知识与工程能力的组合价值随之上升。
对消费市场:体积更小、响应更快的本地模型可能进入个人电脑和边缘设备,但在通用对话和复杂编程能力得到证明前,短期内更适合作为专用工具,而非通用助手替代品。