RPC

老显卡也能跑大模型 — 1080 Ti 拼 5070 Ti 跑通 Qwen 27B，本地部署成本下降

本周 LocalLLaMA 社区一位开发者把 2017 年的 GTX 1080 Ti 和 RTX 5070 Ti 用千兆网线串起来，通过 llama.cpp 的 RPC 功能跑通 Qwen 27B 量化版。这意味着旧硬件不再是 AI 时代的废铁，企业部署本地大模型的门槛在下降。