Reshard Collective

英伟达用 Reshard Collective 加速模型强化学习，瓶颈转向权重同步

英伟达推出 Reshard Collective，用集合通信优化强化学习后训练中的模型权重同步。当推理与训练拆分到不同 GPU 后，权重更新效率正成为影响训练速度和成本的新瓶颈。