此前 SageMaker 部署模型时，最小单位是一整块 GPU：8 块 A100 的实例最多承载 8 个模型，哪怕每个模型实际只需 14GB 显存。现在 AWS 加入 GPU 切分，一块卡可拆成最多 7 个独立实例，这项功能直接瞄准 AI 部署中的算力闲置与资源错配。

这是什么

这项能力基于 NVIDIA Multi-Instance GPU（MIG，把一块物理 GPU 拆成多个计算和显存相互隔离的实例），应用于使用推理组件的 SageMaker Inference 端点。企业可让多个模型共享一张 GPU，也可按模型规模选择更小的计算单元。

它并非适用于所有部署方式：单模型端点、无服务器端点以及异构实例池都不能使用。对同一 GPU 承载多个微调模型或按客户区分模型的团队，隔离尤其有价值；对流量突发、需要频繁装卸模型的服务，原有的多模型端点仍可能更合适。

行业怎么看

我们认为，这项更新的意义不在于提高一次推理的速度，而在于降低闲置算力带来的成本。以前，为了获得真正的 GPU 切分，企业需要自行管理 Kubernetes，并处理驱动版本、设备插件、调度和集群一致性等运维工作；现在，这些能力被收进托管服务。

但值得警惕的是，MIG 切分并不会自动消除浪费。企业若没有按真实请求量、上下文长度和模型组合配置资源，拆分后的实例仍可能闲置；切分单元过小，也可能限制高负载场景下的吞吐量。更关键的是，功能只覆盖部分端点类型，迁移前必须核对现有架构是否适用。

更大的判断是，云厂商正在把 GPU 管理从粗放配置推进到精细运营。未来企业采购模型算力时，评估重点会从“实例有多少张卡”转向“每张卡实际承载了多少有效请求”。

对普通人的影响

对企业 IT：多模型共享 GPU 将减少为峰值容量预付整块算力的需要，但成本下降仍取决于真实流量画像和资源切分策略，并非上线即省钱。

对个人职场：模型部署与运维的门槛正在下降，更多团队可以把内部知识库、智能客服等应用从试验推进到稳定服务，同时仍需掌握成本监控和容量规划。

对消费市场：更细粒度的云端算力可能缓解模型服务拥堵，让 AI 助手在高峰期更稳定；最终是否转化为更低价格或更多免费功能，要看云厂商如何把这些节省传给客户。