LocalLLaMA
两台电脑拼成一台大模型主机 — 本地 AI 开始拼算力也拼内存
一名用户尝试用千兆直连，把两台电脑的内存与显卡池化运行大模型。它说明本地 AI 的门槛正从单卡性能转向整机协同，但网络、操作系统和推理框架仍是现实约束。
返回首页
RPC
找到 2 篇关于此标签的文章
llama.cpp
老显卡也能跑大模型 — 1080 Ti 拼 5070 Ti 跑通 Qwen 27B，本地部署成本下降
本周 LocalLLaMA 社区一位开发者把 2017 年的 GTX 1080 Ti 和 RTX 5070 Ti 用千兆网线串起来，通过 llama.cpp 的 RPC 功能跑通 Qwen 27B 量化版。这意味着旧硬件不再是 AI 时代的废铁，企业部署本地大模型的门槛在下降。