Salesforce 的 AI 基础团队目前覆盖 30 多个全球区域,却曾同时面对算力闲置和请求排队。这个事实说明,大模型商业化的关键指标已不只是效果,而是高峰期能否稳定接住真实流量。
这是什么
Salesforce 在 Amazon SageMaker AI 上启用跨区域推理路由:应用只需使用一个调用入口,系统便会根据各区域的模型容量,把请求分配到能够处理它的端点。跨区域路由(把计算任务发往其他云区域)可减少局部算力不足造成的服务中断。
过去,Salesforce 的内部网关只能依靠健康检查、重试和人工维护的切换规则处理溢出流量,既不知道远端还有多少容量,也无法阻止故障期间流量集中涌入另一个区域。SageMaker AI 提供托管路由后,团队可以统一查看请求最终由哪个区域处理,并设置跨区流量上限。
值得强调的是,跨区调度并未取消数据驻留承诺。Salesforce 强调,路由机制是在既有合规边界内增加容量,而不是把客户数据任意送到其他地区。
行业怎么看
我们认为,这类基础设施的价值很具体:当客户业务高峰重叠、新部门临时接入,或者某个区域资源不足时,企业可以更快扩充服务能力,而不必为每个峰值都预留昂贵算力。对提供 Agentforce 和 Salesforce Trust Layer 的 Salesforce 而言,可用性本身就是产品体验。
但跨区域路由并非没有代价。请求跨区传输会增加网络开销和响应时间;路由器一旦误判容量,可能把正常流量送往压力更大的区域;故障切换期间,多个系统同时迁移还可能形成连锁故障。风险能否被控制,取决于容量信号是否准确、流量上限是否合理,以及企业能否完整追踪每次请求。
另一个边界是数据治理。技术上可把请求送往其他区域,不代表所有监管和客户合同都允许这样做。跨区域能力只有与本地部署、权限控制和审计机制配合,才适合进入高合规行业。
对普通人的影响
对企业 IT:AI 系统的建设重点正从单区域部署转向统一调度、容量监控和故障预案。企业不必在每个地区长期备齐峰值算力,但需要为数据边界、跨区费用和备用链路制定清晰规则。
对个人职场:企业会更愿意部署多个模型和智能助手,但应用能否按时响应,将更依赖后台容量管理。未来选型 AI 工具时,稳定性和高峰表现可能与模型能力同样重要。
对消费市场:更多依赖 AI 助手的软件有望减少高峰期掉线或排队,但服务商会把部分跨区基础设施成本转嫁给客户。消费者感受到的变化,未必来自更炫的演示,而是一次次更顺畅的回复。