一项新论文给出的数字是:801-30B-A3B-Base 用 3 个月、11.8 万亿词元完成训练,并采用 30B 总参数、A3B 激活参数的混合专家架构;我们认为,它比一次跑分更值得关心之处,是把模型自我改进从后训练推进到了此前难以重复的前沿预训练阶段。
这是什么
递归自我改进(RSI,指模型参与改进下一代模型的训练流程)过去主要发生在后训练阶段:团队先训练基础模型,再通过强化学习或监督微调不断试验。论文把这种方法用于从零开始训练基础模型,并将无法完整重跑的总流程拆成多个小循环,分别修复数据管线、训练基础设施和具体步骤中暴露的问题。
这次成果是开放的基础模型 801-30B-A3B-Base,以及一个仅使用 60 亿词元、没有强化学习的轻量监督微调版本。论文称,前者在同类比较中超过 Qwen3-30B-A3B 和 Nemotron-3.5-Lightning-30B-A3B,轻量微调后还在四项智能体基准上取得最高平均分;完整模型与数据将陆续开放,因此目前仍需等待独立复现。
行业怎么看
我们认为,释放信号的并不是“AI 已经开始制造更好的 AI”这么宽泛的结论,而是模型研发正在从单点算法竞赛转向完整生产系统竞赛。论文明确指出,前沿预训练一次可能消耗数十万 GPU 小时,持续数月且难以原样重跑;改进对象也不再只是一个模型,而是数据、基础设施与协作流程。
风险同样清楚。第一,小循环是否真正提升了最终训练效果,仍取决于论文披露的数据、代码和复现实验;轻量微调在智能体测试中的表现,也不能直接等同于完整产品能力。第二,801 的比较结果来自作者设定的模型、训练与测试口径,面对闭源模型时仍可能失效。更重要的是,这类成果需要长期算力、训练数据和工程团队,短期内不会自动降低所有企业获得前沿能力的门槛。
对普通人的影响
对企业 IT:未来采购模型时,数据治理、训练流水线和持续评测的重要性会进一步上升,单看公开榜单已不足以判断供应商能否稳定迭代。
对个人职场:能调用代码、检索资料并执行多步任务的模型正在变强,但这类能力目前更多体现为基准成绩和开放模型,能否在真实工作中稳定使用仍要逐项验证。
对消费市场:如果后续开放计划兑现,开发者和中小企业可能获得更多可研究、可本地部署的选择;短期内,直接影响仍会先落在模型生态,而不是终端产品价格与功能立刻变化。