Nvidia 5090

Ornith-1.5 在 5090 上跑到 250 token/s — 本地大模型首次接近云端

Ornith-1.5-35B-A3B 是本周 Reddit 上冒出来的开源模型实测:350 亿参数,在英伟达消费级 5090 上跑到 250 token/s。这意味着企业第一次有了不上云也能跑 Agent 的现实选项,数据敏感的金融、医疗、法律行业值得重新算账。