通义千问
通义千问27B靠两张游戏显卡跑顺:本地部署大模型的硬件门槛再下一档
阿里的通义千问 27B 开源大模型本周被开发者用两张 RTX 3060 游戏显卡(不到 4000 元硬件成本)跑出 45-50 token/秒生成速度,社区实测确认日常够用。这组数据值得关注——本地化部署大模型的硬件门槛正在向中小公司下移。
找到 1 篇关于此标签的文章
阿里的通义千问 27B 开源大模型本周被开发者用两张 RTX 3060 游戏显卡(不到 4000 元硬件成本)跑出 45-50 token/秒生成速度,社区实测确认日常够用。这组数据值得关注——本地化部署大模型的硬件门槛正在向中小公司下移。