腾讯一个半月把模型从 295B 堆到 770B — 中国大厂用开源抢时间

这是什么

本周腾讯把开源模型参数从 295B 堆到 770B——一个半月翻 2.6 倍。Hy4 预览版已在 Hugging Face 上线:总参数 770B、激活 49B(MoE,即 Mixture of Experts 混合专家架构,每次推理只激活部分参数)、上下文窗口 100 万 token、只支持文本输入,模型文件 1.56TB。相比 7 月的 Hy3(295B、21B 激活、25.6 万上下文),规模和上下文都拉到新量级。

行业怎么看

支持方认为:中国大厂能在六周内把模型规模推到这一量级,且以开源权重形式发布,对全球中等规模 AI 应用市场是个实质冲击——企业可以低成本私有部署 1M 上下文模型,处理合同、研报、长文档;49B 激活参数在 MoE 架构下,推理成本并非不可承受。

质疑声也很明确:第一,"770B"是营销数字,真正决定推理成本的是激活参数 49B,跟真正 770B 稠密模型不在一个量级;第二,开源权重 ≠ 开源,没有训练数据、没有微调配方、没有对齐方法,企业能改造的空间有限;第三,只支持文本输入,相比同期发布的多模态模型是明显短板;第四,官方没有公布任何基准测试成绩,目前公开的只有一次"鹈鹕骑自行车"的 SVG 生成,可参考性很低。

对普通人的影响

对企业 IT:又多了一个可评估的开源选项,尤其适合私有部署和文档密集场景;但要谨慎,自建推理集群对中小企业未必划算。

对个人职场:长上下文 + 强文本推理,对需要整本研报、合同、书籍一次性喂进去的工作有实际价值;普通人用 API 调用比自建部署更现实。

对消费市场:开源大模型规模化继续压低整体推理成本,各类 AI 应用的订阅价或调用费还有下行空间。