5940 亿参数、每次推理只激活约 170 亿参数,Inkling 2 Small 计划下周开放权重;我们判断,开源模型的竞争重点正在从“能不能用”转向“能否以更低成本稳定部署”。
这是什么
Inkling 2 Small 是一款采用混合专家架构(MoA,把不同任务交给不同的参数子模块处理)的开放权重模型。其总参数规模为 5940 亿(A17B),推理时约激活 170 亿参数,目标是兼顾能力、速度与显存需求。开放权重意味着开发者可以下载并自行部署,而不是只能通过官方接口调用。
行业怎么看
我们注意到,开放权重模型正在补齐大型闭源模型之外的部署空间:企业可以控制数据流向,并在自有服务器上按实际需求调整运行方式。对硬件供应商和模型服务商来说,这也意味着竞争不只发生在榜单上,还发生在单位任务成本、延迟和运维复杂度上。
但风险同样明确。官方尚未披露完整的基准测试、训练数据构成、许可证条款和实际硬件要求,17 亿激活参数也不能直接等同于低部署门槛。模型规模较大,显存、带宽与工程优化仍可能成为现实障碍;此外,“开放权重”通常不等于开放训练过程,模型的可复现性和可审计性仍需观察。
对普通人的影响
对企业 IT:它可能为重视数据隔离、成本控制和可定制性的企业提供新的模型选项,但上线前仍需评估许可证、算力需求与维护能力。
对个人职场:本地部署门槛如果确实下降,知识工作者可以尝试把资料检索、写作和代码辅助接入自己的设备,但这仍不是普通用户即装即用的产品。
对消费市场:开放模型会推动更多应用压低调用价格,服务提供商的差异将更多来自体验、数据和服务保障,而不是简单接入同一个模型。