Reddit 上一位 GPU 租赁商称,A100 二手价格已较此前高点下跌 20%—30%;与此同时,RTX 6000 的价格也从 1.8 万美元降至 1.48 万美元。我们的判断是:AI 算力市场正从“买到 GPU 就能训练大模型”,转向更看重吞吐、功耗和融资成本的精细化竞争。

这是什么

A100 是英伟达此前广泛用于 AI 训练的图形处理器(GPU,负责并行计算)。这则市场观察提到,Rubin 与 Blackwell 新平台每瓦效率预计达到 A100 的 3—4 倍,且更容易获得融资支持;A100 在推理场景中的竞争力也在减弱。与此同时,AMD Radeon Pro 9700、Intel Crescent Island 等带有大显存(vram,运行时保存模型所需数据的内存)的替代产品,正在压低买家的支付意愿。

行业怎么看

对云服务商和模型公司而言,旧卡折价不一定是坏事:更低的硬件成本可能降低训练、微调和推理成本,也让更多企业负担得起本地部署。但风险同样清楚——如果需求增长不及预期,或者新平台效率提升快于软件适配速度,A100 剩余需求可能继续收缩,二手供应和租赁商将承受更大库存压力。

持相反看法的人认为,A100 仍有成熟软件生态、较低迁移成本和稳定供应优势,只要大模型训练需求保持增长,旧卡就未必会快速退出。我们倾向于认为,价格下跌表明市场已提前计入换代预期,但生态黏性会让退场呈现分化,而非一刀切。

对普通人的影响

对企业 IT:采购 AI 服务器时,除了比较显卡单价,还应评估模型兼容性、持续供电成本和未来两年升级路径;二手 A100 的价格下降,可能扩大中小企业的试水空间。

对个人职场:企业 AI 应用正从训练自有大模型,更多转向调用现成模型或做轻量微调,相关岗位机会可能向算力调度、数据治理和成本优化倾斜。

对消费市场:短期内消费者不太可能直接买到更便宜的 AI 手机或电脑,但云端推理成本若随硬件换代下降,订阅式 AI 服务的竞争和价格压力会更明显。