我第一次看到“换模型省下数百万”时,第一反应是:是不是又到了拼算力的时候?
我现在的副业项目也会遇到这种情况:客户咨询、资料整理、邮件草稿,都交给同一个 AI 模型。刚开始很省心,后来账单慢慢上来,我却在合同、客服、自动化这些地方同时烧钱。工具选得越贵,不代表每件事都值得用最贵的模型。
这次 Amazon 的做法,本质上不是把一个模型强行换成另一个,而是给 AI 增加一个“调度层”:先判断任务难度,再决定交给哪类模型。便宜模型负责简单、重复、规则明确的工作;更贵的模型留给复杂判断。这个思路叫 Strands Decider。
它不是新模型,更像一个会分配工作的项目助理
我之前也搞错过:看到模型更新,就想立刻把所有流程都迁过去,结果价格没降,效果还变差。后来才明白,先把任务分清楚,比追着最新型号跑更重要。
文章里提到,Amazon 在实际业务场景中使用 Strands Decider 来选择不同模型,并据称因此节省了数百万美元。这里没有一个适合所有人照抄的固定按钮,关键是你先把自己的工作分成“简单判断”和“复杂判断”。
比如,客户要查订单状态,答案来自固定表格和规则,可以让便宜模型处理;客户同时比较三个方案,还要求你解释取舍,才值得交给能力更强的模型。不是让 AI 永远选最强,而是让它按任务选择。
你今天复刻它,预算和第一步都很明确
钱:先用现有模型额度,不额外购买软件;如果你想试开源框架,个人项目通常可以从 0 元开始。企业部署则要另算服务、人工和调用成本,不能把“模型便宜了”误当成“系统一定便宜了”。
时间:先用 1-2 天盘点最近 20 个真实任务,给每个任务标上“规则是否明确”“是否需要长篇推理”“出错成本多高”,再决定分流方式。技术门槛:不需要你会写复杂程序,但至少要能看懂 API、模型名称和调用记录;如果完全不懂,也能先用表格和人工规则模拟。
第一步:打开你正在使用的 AI 工具后台,找到“用量”或“账单”页面,先记下最贵的 5 类任务。不要急着换模型,先从其中一类开始,比如邮件改写或资料摘要。Strands Decider 的开源版本可以在 GitHub 上查看示例,先跑通一个“判断任务难度并转交模型”的小流程。
如果你属于这三类,我会这样开始
刚起步
如果你现在还没有稳定客户,我不会马上搭调度系统。先用一款够用且价格透明的模型,把一个收费或获客环节跑通;等调用量稳定,再考虑分流。现在不试也没事,先解决有没有人愿意付钱。
有 1-2 个客户
如果你已经在处理客户咨询、合同草稿或内容生产,我会先做一张“任务分级表”。固定格式的走便宜模型,需要判断和解释的再升级。连续记录两周成本和返工次数,看看节省是否真的超过维护时间。
正在扩规模
如果你要带 3-5 人团队,或自动化流程开始频繁调用,我会把模型选择、预算上限和日志放在一起,避免某个循环任务持续消耗预算。Strands Decider 可以作为参考,但不建议未经测试就接管全部业务;先留一个人工确认环节,再逐步扩大范围。
我现在的体会是:AI 项目的省钱重点,常常不是找到“最低价”,而是避免让所有任务都按最高价运行。你可以先用一周做盘点,再决定要不要动手。