这是什么

这周 Reddit 的 LocalLLaMA 社区（一个专注本地跑大模型的爱好者论坛）里，用户 poofph 把自组 AI 服务器从客厅搬到地下室机架，用消费级显卡跑通了本地推理，配文很随意——「刚入坑，太喜欢了」。

这事看似玩票，但折射出一条清晰的趋势线：本地大模型部署的硬件门槛正在快速下移。一年前，普通人想在本地跑 70B 参数的模型，至少要双卡专业显卡；现在用消费级显卡的量化版本，单卡就能跑起来。

行业怎么看

硬件厂商对这条曲线最敏感。英伟达消费级显卡过去一年涨价明显，部分原因就是本地推理需求拉动；AMD、苹果（Mac Studio 用统一内存跑大模型）都在押这个方向。

但也有冷静的声音。云端 API 的边际成本还在持续下降，OpenAI、Anthropic 的 token 定价一年跌了 60% 以上。对绝大多数企业来说，「自己跑」要承担电费、调试成本、模型更新滞后，短期很难打过「调用接口」。本地部署目前主要服务于三类场景：数据合规要求高的行业、爱好者折腾、以及对延迟极敏感的边缘应用。

对普通人的影响

对企业 IT：短期不必调整采购策略。云端 API 仍是性价比首选，但「私有化部署」在金融、医疗、政务领域的询价会变多，值得提前关注。

对个人职场：技术爱好者多了一条可玩的自学路径，但对非技术岗来说，「会调教 AI 工具」仍比「会部署模型」更有职场价值。

对消费市场：消费级显卡价格被 AI 需求推高，游戏玩家和视频创作者要承受更高装机成本，这是 2025 年讨论不多的副作用。