智谱
321B 大模型装进一张家用显卡 — '私有部署'成本被压到一台游戏机
智谱开源大模型 GLM-5.3-Flash 是 321B 参数级,社区项目 Project Maya 让它在单张 RTX 5090 上跑到 30+ token/秒,准确率保留 97.7%。值得关注的是:大模型'本地部署'从堆机柜变成买一台游戏主机,企业数据不出门第一次成了现实选项。
找到 2 篇关于此标签的文章
智谱开源大模型 GLM-5.3-Flash 是 321B 参数级,社区项目 Project Maya 让它在单张 RTX 5090 上跑到 30+ token/秒,准确率保留 97.7%。值得关注的是:大模型'本地部署'从堆机柜变成买一台游戏主机,企业数据不出门第一次成了现实选项。
本地 AI 正在从极客边缘爱好走向企业备选项。本期编辑部结合海外开发者社区讨论,拆解数据合规、成本、定制三类驱动力,并提示硬件门槛降低与人才稀缺的双面现实。