这是什么

本周 r/LocalLLaMA 上一位新西兰用户晒出自己的「家庭 AI 集群」：4 张 RTX 5070 Ti 加 4 张 RTX 5060 Ti，通过 PLX 88096 交换芯片（让多张 GPU 能直接通信的桥接芯片）互联，跑 vLLM 0.30（一个主流的开源大模型推理框架），目标是在本地运行大语言模型。他明确写明动机是「DATA SOVEREIGNTY / PRIVACY」——不愿把数据交给任何云厂商。

硬件堆得激进，但他自己坦白是从 Windows 3.1 时代过来的「老脚本小子」，Linux、Docker、GPU 之间跨节点 P2P（点对点直连）通信到现在还没完全跑通。这不是企业机房，是 SOHO（小型办公室/家庭办公）级别的土法炼钢。

行业怎么看

支持方会说：隐私焦虑是真实的。法律、医疗、外贸、政府场景，对「数据出本地」的容忍度正在变低；云厂商再便宜，条款不让人放心，企业就会自建。这类需求撑得起一个细分市场。

但反对意见同样成立。8 张 5070 Ti 整机投入轻松超过 10 万元人民币，而同等算力在云上按月租只要几千元；这位用户还卡在 Linux 和 P2P 配置上——没有专职运维的中小企业，自建大概率是灾难。更现实的趋势是：云厂商正在用「专有云」「本地化一体机」反向吃掉这块市场，阿里云、腾讯云、华为云都有「数据不出机房」的方案在卖。所以「人人自建」不会发生，「云厂商把本地化打包成产品」才是主线。这位新西兰玩家的价值，是提前演示了「真要自己跑会卡在哪」。

对普通人的影响

  • 对企业 IT：本地 AI 部署从「不现实」变成「可考虑」，但前提是评估有没有专职运维；中小企业更现实的路径是向云厂商要「私有化版本」，而不是自己攒机。
  • 对个人职场：会部署本地模型目前仍是少数硬核技能，多数岗位用 ChatGPT / 通义 / 豆包 API 已足够；但懂底层的人在 AI 产品岗会越来越值钱。
  • 对消费市场：双 5090 工作站开始进入创作者和小型研究者的视野，但离「家用电器」还很远——能跑起来不代表普通人会跑起来。