Radiance
本地大模型走向团队部署，运维难题比模型能力更先出现
一家公司尝试用 Radiance 提供本地推理，并通过 Tailscale、Hermes 容器和权限隔离开放给团队。案例说明，企业采用本地大模型时，真正棘手的往往不是显卡和模型，而是访问控制、密钥管理、扩容与维护成本。
返回首页
Framework
找到 2 篇关于此标签的文章
AMD
3.5万组装机本地跑通Qwen 122B，速度翻倍 — 私有AI部署门槛降到一台PC
一位 Reddit 玩家用 3.5 万元攒出一台本地 AI 工作站（Framework Strix Halo 主板 + AMD R9700 显卡），跑通 Qwen 122B 模型速度翻倍。值得关心的不是硬件本身，而是私有部署大模型第一次有了工作站级别的性价比方案。