Pathway 这周交出一份值得注意的成绩单:他们的 BDH 架构在 ARC-AGI-1(公认烧脑的推理基准测试)上,用远小于大模型的参数规模,触碰到了成本-精度的帕累托边界——也就是'再便宜就要牺牲精度、再准就要烧算力'的最优折中线。Databricks 顾问 Ben Lorica 在播客里反复提一个判断:专用 AI 正在变得越来越容易做。在我们所有人盯着通用大模型军备竞赛时,'小而专'的路线正在获得严肃背书。
这是什么
小推理模型(SRM)指参数规模在几亿到几十亿之间、训练目标就是逻辑推理的小模型。它不靠吞下维基百科和 Reddit 获得能力,而是把推理内建进训练目标里。配套的 BDH 架构用不同方式管理记忆,理论上能做到边用边学而不丢失旧技能——这正是当前主流 Transformer 架构(即几乎所有大模型的底层结构)的痛点。
行业怎么看
支持者有真实订单。Pathway 已有银行客户把它用于安全调查和工单处理这类窄领域、长链路推理工作,已经跑在生产环境而非演示视频里。
但质疑同样尖锐。Reddit 上技术从业者 khiladi796 直言一个核心问题:怎么判断模型是真学会了可复用规则,还是只是照抄上下文给的范例?营销话术太多。当前的评估框架有四个空白——参数小不等于推理便宜,还要看实际显存开销;它是靠上下文适应还是要改参数;训练到底用了多少数据;上线后持续学习会不会引发灾难性遗忘(学了新技能覆盖掉旧技能)。
对普通人的影响
对企业 IT:过去必须调用云端大模型的边界任务(如合同审阅、报表核对),未来有望用本地小模型跑通,私有部署成本显著下降。
对个人职场:白领固定领域的工作流,可能迎来不再按调用次数收费的本地 AI 助手,按机器或一次性授权付费。
对消费市场:手机和笔记本端侧 AI 有望真正具备推理能力,而不只是语音助手级对话——但这一天何时到,还要看厂商是真做了还是又一轮营销。