Google Research 本周发布的一篇博客,问了一个让整个 AI 行业不太舒服的问题:AI 模型在基准测试(Benchmark,用标准化题目衡量模型能力的统一考试)上的分数一路往上走,但它们真的把活干得更好了吗?
这是什么
Google 的研究团队指出,目前行业评估 AI 的方式存在结构性偏差。一个模型如果在某项考试里拿了高分,采购方往往默认它"能力强",但能力(capability,能做题的能力)和有用性(utility,能把活干漂亮的能力)是两件事。一个能答对九成数学题的模型,不一定能在企业里准确填好一份 Excel 报表。
这篇博客的核心论点是:评估体系正在被"应试化"。模型的优化目标变成了刷分,而不是解决真实工作流里的具体问题。这不是 Google 第一次对评估方法论表达不满,但声音来自研究部门而非销售部门,分量不同。
行业怎么看
支持方认为,Google 戳破了一件皇帝新衣。大量 AI 厂商的发布会以刷榜为卖点,但客户落地后普遍发现效果差距很大。一家国内大厂的产品负责人私下告诉我们:"内部已经不怎么相信外部榜单了,更看自己业务场景的复测。"
反对意见同样值得听。多位研究者提醒,基准测试不是没用,而是目前没有更好的替代品。若全盘否定,意味着企业采购 AI 时只能依赖主观演示和厂商自吹,决策成本反而更高。一位 AI 投资人更尖锐地指出:"Google 自己在 Gemini 上也是重度依赖基准做市场宣传,这种批评有几分可信,要打个折扣。"
对普通人的影响
对企业 IT:采购 AI Agent 不能只看厂商榜单分数,必须在自己的真实业务数据上做小范围试点,否则容易花大钱买回一个"考试高手"。
对个人职场:那些宣称"提效 X 倍"的 AI 工具,到手后大概率没那么神。值得花一周时间亲自跑一遍核心工作流,再决定是否续费。
对消费市场:类似逻辑适用于所有 AI 产品。发布会演示与真实体验之间的落差,会成为接下来一年投诉的重灾区。