这是什么

本周 r/LocalLLaMA 上，一位工程师发起一个具体算账：用新买的 Blackwell 4000 工作站卡（24GB 显存、略低于官方定价）+ 家里旧 RTX 3060（12GB），拼出一台本地跑编程大模型的工作站——这透露出本地 AI 推理的入门门槛，正在从「四卡 A100」沉到「一张消费旗舰 + 一张旧卡」。

这位用户的主诉求很实在——主攻代码任务、要有安全余量（buffer）、想知道两张卡能不能用 tensor split（显存分割）协同工作。这是过去只有大公司工程团队才会碰的问题，现在变成 Reddit 攒机区的日常讨论。

行业怎么看

看好的一方认为：Blackwell 架构把 24GB 显存的「够用门槛」拉到了普通工程师可负担的价格区间。配合 vLLM、llama.cpp（两个主流开源推理框架）的成熟，单卡跑 70B 参数模型已经可行，混搭旧卡本质是边际成本最低的扩容方式。

但冷静的声音也不少。NVIDIA 对消费级和工作站卡的驱动是分开维护的，CUDA（NVIDIA 的 GPU 计算平台）生态对混卡支持一直不稳定；两张卡 PCIe 带宽、显存速度不一致时，tensor split 经常出现推理速度比单卡还慢的尴尬情况。更现实的风险是：本地部署的真实成本不只是硬件——电费、散热、驱动调试这些隐藏开销，足以让家庭用户在两三个月内放弃。

对普通人的影响

对企业 IT：中小企业自建本地 AI 工作站的预算，从过去的几十万元降到几万元的「攒机」级别，数据合规问题因此多了一条可行路径。

对个人职场：程序员、独立咨询顾问开始用 5000–10000 美元预算跑出可用的本地编程助手，逐步摆脱每月几十美元的云端订阅。

对消费市场：二手显卡市场被重新激活，RTX 3090、4090 这类 24GB 卡的需求和价格被推高，AI 算力正在变成新的消费品类。