这是什么

本周 Reddit 上一位开发者用一张 22GB 的 RTX 2080TI 跑阿里新模型 Qwen3.8-27B，发现一个反直觉的现象：把 reasoning_effort（推理强度，即让 AI 在回答前「多想一步」的开关）从「xhigh」调到「medium」，同一任务上模型的「思考 token」（即模型在给出最终答案前内部推理的文本量）从 1.5-2 万暴跌到不足 2000，最终输出的 HTML 代码质量也断崖下跌——做 Flappy Bird 这种小任务，medium 模式基本跑不出能玩的东西。

换句话说，今天的开源推理模型（reasoning model，即在回答前会先「思考」的 AI）已经把「思考强度」做成了一个可调参数，但用户还没习惯它的成本含义：

  • 同样一个任务，调高推理强度，token 消耗可能差 20 倍
  • token 消耗不是输出长度决定的，是「模型想了多少」决定的
  • 如果按 token 计费，部署成本是按你的设置走的，不是按用户需求走的

行业怎么看

正面声音：开源社区在欢呼 Qwen3.8-27B 能在 22GB 显存的消费级显卡上跑 100k 上下文（模型一次能「读」多少字），速度 40 tk/s（token/秒），本地部署推理模型首次接近「可用」。

反对 / 风险声音：

  • reasoning_effort 这种参数让成本不可预测。原帖作者坦言「我不知道这是正常行为还是 bug」——说明连开发者自己都算不清账
  • 如果用云端 API 按量计费，把 reasoning 调高很容易出现「月账单爆掉」的情况，且没有厂商给出「不同档位下质量 vs 消耗」的标准曲线
  • benchmark 榜单上的分数通常基于「模型能跑的最高 reasoning 档位」，企业按这个选型，预算和实际消耗会严重偏离

对普通人的影响

  • 对企业 IT：选推理模型时，benchmark 分数只是起点，reasoning 档位设置才是真正的成本变量，预算估算要把「思考量」算进去。
  • 对个人职场：日常用 AI 写代码、写文档时，调低 reasoning 确实省时间省钱，但要意识到质量也在掉，关键交付物别图省事用 low/medium。
  • 对消费市场：未来按「思考量」差异化计费的产品会越来越多，普通用户第一次要为「AI 想了多少」付钱，而不是「AI 说了多少」。