找到 1 篇关于此标签的文章
美国开源团队 SyzygyResearch 用极低比特量化,把 350 亿参数的大模型压成 7GB,普通笔记本能跑到每秒 120 字。这意味着以后本地跑 AI 可能不再需要顶级显卡,企业和个人的「私有 AI」门槛正在快速下降。