AMD 这周发布的 256 核 EPYC 处理器,内存带宽摸到了消费级旗舰显卡 RTX 5090 的 91%——这件事表面看是 CPU 升级,实际上是大模型本地推理(把模型装在本地服务器上跑、不走云端)的硬件路线开始分叉。以前默认"跑大模型 = 堆 NVIDIA GPU",现在 AMD 用一颗 CPU 告诉市场:这条路不止一条。

这是什么

EPYC 是 AMD 的服务器 CPU 系列,这次是 256 核心版本,搭配 16 通道 DDR5-12800 内存。内存带宽(CPU 一秒内能搬运多少数据)是跑大模型推理的关键瓶颈——模型本身动辄几十上百 GB,搬不动就跑不快。RTX 5090 是目前消费级最强显卡之一,能跑大模型主要靠 1.8 TB/s 的内存带宽。AMD 这颗 CPU 跑到 5090 的 91%,意味着 CPU 第一次在带宽上接近消费级旗舰显卡。

行业怎么看

硬件圈普遍认为这是本地化部署的积极信号。对不想被 NVIDIA 绑定、又担心数据出域的企业,这是一条新的备选路径。

反对声音同样清晰。Reddit 评论区一片自嘲:跑这颗 CPU 的主板加 2TB DDR5 套件,价格"只要两颗肾加一个小型国家的 GDP"。更严肃的质疑是:即便带宽接近,CPU 在能效比(每瓦算力)和长上下文(一次性处理长文档)上仍远不如专用 GPU;NVIDIA 的 H200、B200 路线还在继续往上拉带宽,AMD 这点优势能维持多久是问题。

对普通人的影响

对企业 IT:私有化部署 AI 多了条备选路线,但短期内不是省钱方案,更像是战略上的"不把鸡蛋放一个篮子"。

对个人职场:暂不直接影响工作方式;但若你所在公司未来走本地 AI 路线,你的数据会留在公司内网,不再经过云端——边界感会变。

对消费市场:消费级显卡(5090/4090 级)依然是本地 AI 主力,这颗 CPU 距离普通玩家还很远。