返回首页

A100

找到 4 篇关于此标签的文章

Amazon SageMaker

SageMaker 开放 GPU 切分,AWS 试图让每块算力不再闲置

AWS 为 SageMaker Inference 加入 NVIDIA MIG GPU 切分支持,一块物理 GPU 可拆成最多 7 个隔离实例,并可按模型需求分配不同规格。它主要解决多模型部署时算力浪费和配置复杂问题,释放信号是云端 AI 基础设施竞争正从“有没有 GPU”转向“如何精细使用 GPU

11月6日4 分钟AI财经周刊aws.amazon.com