这是什么
Meta 最近放出的 MobileMoE,是一组"端侧 MoE 大模型"——所谓端侧,就是不依赖云端、直接在你的手机或笔记本上跑;MoE(Mixture of Experts,混合专家)是一种把一个大模型拆成几十个"小专家"的网络架构,每次推理只激活其中几个,从而用更少算力达到更大模型的效果。
MobileMoE 出了三档规模:小号 0.3B、中号 0.5B、大号 0.9B 激活参数,对应总参数 1.3B/2.8B/5.3B。每档又分三种交付:Base(预训练基础版)、SFT(监督微调,即用人工标注数据再训一轮)、QAT(量化感知训练,让模型天生适配低精度压缩)。最大的 L 版本经 INT4(4-bit 整数)压缩后不到 3GB,普通手机内存就能放下。
行业怎么看
乐观者认为这是"端侧 AI 的拐点"——过去想在手机上跑接近大模型质量的能力,要么走云端(贵、有延迟、有隐私顾虑),要么用蒸馏(把大模型能力压缩到小模型)但效果掉档。MobileMoE 用 MoE + 细粒度专家路由 + 共享专家的组合,让小激活参数也能稳住质量。
但编辑部也注意到几条冷静的限制:
- 许可协议是 FAIR NC(非商用),个人研究可以,做产品不行。想集成进自家 App 的团队只能看着。
- 上下文窗口只有 8192 tokens(约 6000 中文字),做长文档分析不够用。
- 训练数据基本是英文,中文表现未知,Meta 没公布多语言基准。
- 与 Qwen、GLM 同尺寸闭源小模型的实测对比,社区数据还没跑出来。
对普通人的影响
对企业 IT:短期别指望直接拿 MobileMoE 做产品,但建议跟踪这条技术路线——未来一两年,端侧 AI 会比云端 API 更便宜、隐私更好,客服、文档处理这类项目值得重新评估架构。
对个人职场:现阶段对日常工作的直接影响有限。但理解"端侧 AI"这个趋势本身有价值——下一波 AI 能力很可能不在网页 ChatGPT 里,而在你的手机本地、离线就能用。
对消费市场:真正的受益方是手机厂商和系统厂商(Apple Intelligence、Google Gemini Nano)。Meta 把"小而强"的路标画出来,倒逼整个行业加速。