云原生

找到 2 篇关于此标签的文章

AI 模型终于被打包成「标准件」了 — 但上云只是省成本的第一步

本周一篇技术博客演示了用 Docker（容器技术）和 Kubernetes（自动管容器的工具）部署 AI 模型服务的标准流程。这对工程师是新知，对企业管理者则是信号：AI 落地的工程化时代正在到来。

AI 推理集群扩容时，节点平均要等 116 秒才能开始接活。Nydus + JuiceFS 方案把这个时间压到 1.4 秒，还顺带把模型权重接到同一套存储上。对企业 IT 来说，AI 服务的成本结构和弹性能力正在悄悄发生变化。