VLLM

本地部署 AI 算力账：8 张消费显卡打不过 4 张 — DIY 玩家撞上 PCIe 带宽墙

一位 Reddit 玩家准备把 RTX 3060 从 4 张加到 8 张，社区一边倒劝退：超过 4 卡后 token 速度不升反降。这背后是 PCIe 通道的物理瓶颈，也提醒中小企业，「自建比上云便宜」的直觉在算力规模上不成立。