Radeon

找到 2 篇关于此标签的文章

两千块的 Radeon 7600 跑通 350 亿参数大模型 — 本地 AI 硬件门槛比你想的低得多

有用户用一块约两千元的 AMD Radeon 7600 显卡，把 Qwen 一款 350 亿参数的 MoE 大模型跑到了 21 token/s。这背后是本地推理的硬件门槛在快速下移 — 对注重数据合规的企业 IT 部门,值得重新评估。

有人在 2000 元价位的 Radeon 7600 显卡上跑通阿里通义千问 Qwen 3.5 的 350 亿参数版本,速度 18 token/s。这意味着本地大模型开始接近「日常可用」的门槛,而不是只有四卡 A100 才玩得起的玩具。