强化学习的核心分界只有一条:系统是“心中有规则再行动”,还是“亲自试过才学会”。这条分界决定训练成本、运行速度,以及面对未知环境时的可靠性。

这是什么

文章用扫地机器人走走廊作比喻。环境模型(描述行动会到达哪里、获得多少奖励的规则)如果已知,系统可以先推演再行动,这叫基于模型;如果没有说明书,只能从真实经验中总结规律,这叫不基于模型。

前者包含动态规划、策略迭代、价值迭代和模型预测控制。其中,模型预测控制采取“看几步、只走一步”的方式,在围棋等状态空间过大的任务中更有现实意义。后者包括基于价值、基于策略和演员—评论家三类方法,直接从尝试中学习行动价值或决策策略。

需要避免一个术语混淆:这里的“模型”不是大语言模型,而是环境规则,与是否使用神经网络无关。

行业怎么看

我们认为,基于模型的方法更像先做沙盘推演,适合流程明确、结果可预测的企业场景;不基于模型的方法更接近从实战中磨合,适合规则会变化、难以完整描述的环境。前者节省真实试错,后者覆盖未知情况。

风险也来自这里。基于模型的方法一旦规则过时、遗漏或与现实不一致,推演得越充分,错误可能放大;不基于模型的方法则需要更多样本和试错,在机器人、自动驾驶等现实场景中,安全成本尤其高。因此,“有模型”并不天然优于“无模型”,关键仍是环境规则能否被准确表达。

对普通人的影响

对企业 IT:企业引入智能系统时,是否先梳理流程、权限和业务规则,通常比直接追求更大模型更影响效果。规则模糊的系统,需要保留持续反馈和纠错机制。

对个人职场:会使用智能工具的人,正逐渐从“写提示词”转向“定义规则并验证结果”。能说明目标、边界和验收标准,比单纯会调用工具更重要。

对消费市场:智能设备和软件会更常见地采用边用边学的方式,但可靠规则仍会决定体验。涉及支付、出行或健康的产品,不应以学习速度替代安全验证。