一个 Reddit 用户打算花 6,275 美元把显卡升级到工作站级别,专门在本地跑 Qwen3 27B。这周他在 r/LocalLLaMA 发帖征求意见——清单是 2 张 RTX 3090、3 张 RTX 3060、1 张 3080,外加考虑中的二手 Supermicro 服务器。我们注意到讨论量不小:当开源模型够用、云 API 又不便宜时,「自己跑 AI」正变成一个真实的经济决策。
这是什么
这位用户现在跑的是 Qwen3 27B 的 FP8 版本。FP8 是把模型参数压缩到 8 位精度的技术,模型体积接近砍半但效果损失很小,速度令他满意。考虑场景:Qwen3 27B 是阿里开源的中等规模模型,适合在多张消费级显卡上跑起来。主要用途是并发跑多个编程助手 Agent(让 AI 自主完成多步任务的程序),还有长文本处理任务。
他考虑的方案是:买一台二手 Supermicro AS-5014A-TT 工作站(企业级服务器,可塞 6 张显卡),自带一张 RTX 4090 转手卖掉能回血约 2,300 美元,净成本约 4,000 美元(约 2.9 万人民币)。纠结的核心不是「能不能跑」,而是「这笔钱未来 1-2 年会不会白花」——这已经是采购决策,不是玩票。
行业怎么看
支持本地派认为:云 API 按 token(模型处理的最小文本单位,约等于一个汉字或半个英文单词)收费,重度用户一年下来比买硬件还贵;数据留在本地更安全;Qwen、Llama、DeepSeek 这类开源模型能力已经够用。反对派则提醒:显卡一年贬值三成很常见,云 API 价格仍在持续下降,本地部署需要专人维护,「除了省钱,还要算人」。
更冷静的看法是:本地和云端不是二选一。轻量任务走云、敏感数据走本地,是大多数企业的折中方案。这位 Reddit 用户的纠结,其实是把企业 IT 决策搬到了家庭场景里。
对普通人的影响
对中小企业 IT:本地部署 AI 的门槛在降低,3 万人民币左右就能搭一套可用方案,但电费、散热、运维人力别忽略。
对个人职场:跑不动本地模型完全没关系,云 API 已便宜到几分钱一次调用,会用比拥有更重要。
对消费市场:高端显卡被 AI 玩家抢走溢价空间,普通人买 4090/5090 打游戏的成本被推高,2025 年这个趋势不会缓解。