2800 美元攒出 256GB 显存 AI 主机 — 便宜跑大模型的时代正在打开

这是什么

一名 Reddit 用户把 8 张 AMD Radeon Pro V620 显卡（RDNA2 架构的旧款企业云游戏卡，单张 32GB 显存）塞进一台机器，拼出 256GB 总显存。他让 Claude（Anthropic 的 AI 编程助手）从零写了一套适配 RDNA2 的 GPU 底层指令（kernel，即让显卡真正执行计算的底层程序），挂载到开源推理框架 vLLM（目前主流的大模型服务调度框架）上，运行一个量化压缩过的 Qwen 模型变体。结果：解码（生成文字）60-100 token/秒，预读（处理输入）3000+ token/秒，比他此前用的 llama.cpp 快 8 倍。整套硬件 2800 美元。

行业怎么看

这件作品最值得我们留意的，不是速度数字，而是两件事叠在一起：旧架构显卡被重新激活，AI 自己写出了让旧显卡跑 AI 的底层代码。AMD 在 AI 加速器市场长期是追赶者，主流框架（vLLM、SGLang 等）对 NVIDIA CUDA 生态依赖很深；这次能让 RDNA2 稳定跑出生产级速度，意味着廉价硬件的潜力一直被低估。

但反对意见也得摆出来：这是一次性的工程奇迹，不是开箱即用的产品。代码是个人 fork 的 vLLM（分叉修改版），未经过任何生产环境验证；RDNA2 已是两代前的架构，AMD 在 AI 软件生态的投入意愿有限；真正到企业级部署，租用云端 H100 还是更省心的选择。云厂商的定价不会因此松动。

对普通人的影响

对企业 IT：对预算有限的中小企业和部门级项目，本地跑大模型开始从"理论可行"进入"算账阶段"——一次性投入 2800 美元换 256GB 显存，3 年回本可能比预想更快。

对个人职场：独立开发者和研究员可以用几千美元搭本地推理机做原型，不必每次调用 API 都盯着账单；在处理敏感数据（合同、内部文档）时多了一个真正"不出门"的选项。

对消费市场：推理成本下降终会传到 C 端 AI 产品定价，未来订阅型 AI 服务"按 token 计费"的模式可能进一步松动，甚至出现更多一次性买断的小型 AI 设备。