在一台双卡机器上,HAMi 将每张 GPU 切成 10 份后,八个实例共享算力的性能差异只有 0.2%;但开启 GPU 核心数限制后,吞吐下降 48%,尾延迟从 1.34 秒升至 4.77 秒。我们的判断是:GPU 共享的技术难点已不在“能否切分”,而在限核策略和调度可见性。
这是什么
HAMi 是国内较成熟的开源 GPU 编排项目,可把一块 GPU 的显存和计算核心切分给多个容器使用,并让昇腾、寒武纪、摩尔线程等不同厂商的加速卡接入 Kubernetes 的统一资源模型。GPU 编排(把多块 GPU 按任务需求分配、回收和隔离)此前主要服务于 NVIDIA 环境,如今正转向多种芯片并存。
作者将 HAMi 2.11.0 装在 RTX 4090 与 RTX 5090 双卡机上,每张卡切为 10 份,再运行八项真实业务和九项验收。显存配额可精确到字节,容器也无法申请超出配额的显存,说明基础隔离已经可用。
行业怎么看
这项测试支持一个明确判断:企业采用异构算力后,调度层正在成为基础设施中的关键环节。GPU 不再只是整块设备,而要像内存和 CPU 一样被计量、分配与回收。HAMi 的开源、多厂商路线,也有助于企业减少对单一 GPU 生态的依赖。
但风险同样清楚。第一,核心限核使吞吐减少 48%,说明“共享成功”不等于“性能划算”;企业必须区分显存共享与计算核心限制,并按业务类型压测。第二,调度器看不到自身管理范围之外的显存占用,可能把任务派到接近满载的 GPU,最终触发显存不足。HAMi 目前更像资源管理底座,还不是可以省掉容量规划和性能测试的完整方案。
对普通人的影响
对企业 IT:多品牌 GPU 进入机房后,资源编排会直接影响利用率和故障隔离;企业应先盘点实际芯片与工作负载,再选择是否引入共享层。
对个人职场:算法、运维和平台工程岗位会更常接触 GPU 资源配额、容器调度与异构兼容性,这些能力正在从专业小众技能变成基础设施常识。
对消费市场:短期影响有限,GPU 云服务价格可能因共享效率提升而下降,但限核带来的性能波动也可能让低价服务与独享实例出现更明显的体验差异。