一位 Reddit 用户本周用 Pac-Man(吃豆人)给六个 AI 模型办了一场锦标赛,冠军是 Jev 1.13,平均得分 2750;亚军是 GPT-6 Luna,平均延迟 179 毫秒。这听起来像极客自娱自乐,但编辑部注意到一件事:参赛的不是大家熟悉的聊天大模型,而是一类叫做"决策模型"(decision models,专门用于判断下一步动作的小模型)的新物种——响应时间普遍在 100-400 毫秒,已经快到可以实时玩游戏。
这是什么
所谓决策模型,是相对于"聊天模型"的一个分类。聊天大模型(如 GPT、Claude)擅长理解长文、生成内容,但响应通常要几秒到十几秒;决策模型牺牲一部分通用能力,换取毫秒级的反应速度,专门用于"判断下一步做什么"这类任务。
本次参赛的六个模型——Jev 1.13、Kev 4B、Clef、Clef Flash、GPT-6 Luna、Laya——平均延迟从最快的 104 毫秒到最慢的 398 毫秒不等。这意味着它们可以被嵌入到需要即时反馈的场景里:游戏 NPC、客服路由、自动化交易、风控拦截、机器人控制。
项目方把排行榜和代码全开源,每个模型跑了 100 次取均值,鼓励用户拿自己微调的模型来跑分。这是用游戏做基准测试(benchmark)的非典型做法,类似当年用围棋测试算法水平。
行业怎么看
支持方认为,这件事指向了一个清晰趋势:模型不再只有"大而全"一条路。小模型 + 强专用 + 低延迟,正在变成 AI 产品化的另一个象限。Cloudflare 推出 Clef、OpenAI 上线 decisions 接口,都是这条线的延伸——把"决策"从大模型的副业变成独立产品。
但反对意见同样成立。游戏得分高低未必能映射到真实业务价值;290 毫秒在体感上"很快",但在高频交易、工业控制这类场景里仍然偏慢。更关键的是,吃豆人和真实任务的决策复杂度不在一个量级——一个能拿 6000 分的模型,能不能处理合同条款争议,是另一回事。
还有一种声音认为,这是开源社区在缺少公认评测标准时的"自嗨式"创新,短期看热闹,长期需要更严肃的基准(如工具调用准确率、长链路任务完成率),决策模型才能真正进入企业采购清单。
对普通人的影响
对企业 IT:如果决策模型稳定输出,企业里很多"调一次 API 等三秒"的自动化场景会迎来体验升级,尤其是客服分流、营销触发这类高频小决策。
对个人职场:未来你用的 AI 助手可能分成两类——"会写会想"的大模型负责动脑,"快准狠"的决策模型负责动手,两者分工,而不是一个模型硬扛所有任务。
对消费市场:游戏、电商、客服 App 里的"AI 对手"或"AI 客服"会变得更聪明也更即时,延迟高导致的"AI 在装傻"现象会减少。