Megatron-LM

找到 2 篇关于此标签的文章

中国团队开源 RL 训练框架 Miles — 大模型"调教"工具开始平民化

Miles v0.1 把 RL 后训练（让大模型反复做题-批改-改进）的工程难题拆开开源。中国开发者加入这场基础设施竞赛，"调教"大模型不再只是大厂专利。

工程师把 K8s（容器调度）、Megatron-LM（NVIDIA 开源的模型并行训练框架）、vLLM（推理加速引擎）拼成一条训练千亿参数模型的完整流水线，并写成对照文档。国产大模型的「基础设施焦虑」有了解法，但真正能跑起来的玩家仍屈指可数。