在一组“24 点”实验中,规则变化后,强化学习(RL,即让模型通过试错和结果反馈调整行为)准确率提高 3.5%,监督微调(SFT,即用标准答案示范训练模型)却下降 8.1%;仅替换牌面颜色,RL 提高 17.6%,SFT 下降 9.9%。这组结果值得关注:训练目标是否指向“结果正确”,正在影响模型能否迁移到新情况。
这是什么
研究把训练时的 J、Q、K 都设为 10,测试时分别改成 11、12、13;另一组实验还把黑桃、梅花换成红桃、方块。SFT 更像记住“遇到这些牌就按 10 算”,RL 则因持续根据答题成败调整策略,更容易保留可迁移的解题习惯。
常见 RL 算法包括 GRPO、PPO 和 DPO。GRPO 让同一道题的多次作答互相比较;PPO 额外设置逐步评估机制;DPO 直接学习好答案与差答案的偏好。实验说明的是一种倾向,不代表 RL 在所有任务中都能举一反三。
行业怎么看
我们认为,这给 AI 应用训练提供了一个明确判断:如果产品需要处理规则变化、代码调试等开放任务,仅靠模仿标准答案,很难避免对表面模式的依赖;围绕可验证结果设计训练闭环更贴近实际需求。
风险也同样明确。RL 训练更贵,过程可能剧烈波动,奖励设计错误还会让模型偏离真实目标。工程上还需控制出题模型与判分模型之间的数值偏差,否则微小概率差异可能在长回答中不断累积。因此,RL 与 SFT 并非替代关系,前者通常仍需要后者先建立基础理解和答题格式。
对普通人的影响
对企业 IT:企业部署 AI 时,训练或选型不能只看演示效果,还应测试规则、输入和流程发生变化后的稳定性,同时核算奖励验证与持续训练的成本。
对个人职场:重复套用固定模板的工作更容易被自动化;需要判断结果、迁移经验和排查异常的任务,则会因模型能力提升而出现新的协作机会。
对消费市场:面向消费者的智能助手将逐步从回答相似问题,转向处理个性化规则和多步骤任务,但可靠性与一致性仍需实际场景检验。