Edge0-145B 把模型参数推到 1450 亿,同时定位为可在终端设备运行的开源模型。这件事值得关心,因为大模型竞争正从“谁的能力更高”转向“谁能在本地运行、成本可控并保护数据”。

这是什么

Edge0-145B 是一款面向设备端部署的开源模型。设备端 AI,指不把全部计算交给云端,而是在电脑、服务器或专用硬件上完成推理。它的价值在于减少云服务调用,并在一定程度上降低敏感数据外传的必要性。

但 1450 亿参数并非轻量负担。即使采用量化、稀疏化等压缩手段,模型通常仍需要较大的内存和算力。所谓“装上设备”,不等于普通笔记本就能顺畅运行;实际门槛取决于硬件配置、量化版本和推理框架。

行业怎么看

我们认为,开源与本地运行正在形成同一条路线:企业希望控制数据和成本,模型开发者则通过开放权重扩大生态。对金融、制造、医疗等数据敏感行业而言,本地部署可能比单纯追求最高榜单分数更有现实价值。

风险也很明确。参数规模越大,部署所需的显存、内存和电力通常越高,复杂模型在低算力设备上的速度和稳定性也未必理想。此外,开源并不自动意味着安全或易用,企业仍需承担模型评估、权限管理、更新维护和合规审查等工作。如果项目只依据演示视频采购设备,实际使用成本可能明显高于预期。

对普通人的影响

对企业 IT:本地模型可以成为云端模型之外的数据隔离方案,尤其适合内部知识检索和文档处理,但应先用真实业务数据测试成本与效果。

对个人职场:未来更多专业软件可能把大模型能力嵌入电脑和终端,使用门槛下降;同时,硬件要求会让“人人本地运行超大模型”短期内仍不普遍。

对消费市场:离线处理、响应更快和隐私控制可能成为设备卖点,但消费者真正需要看的不是参数数字,而是速度、耗电、价格和任务完成质量。