LLM硬件

RTX 5080 跑 Qwen 大模型只有 6 字/秒 — 本地部署 AI 的家用门槛还有多高

有人在 Reddit 用 RTX 5080 + 64GB 内存跑 Qwen 量化模型，每秒只生成约 6 个汉字。这件事值得关心：想「让 AI 跑在自己电脑上」，对硬件和调参能力的要求仍远超普通用户。