英伟达新推 NVFP4 量化格式，5090 用户吵翻：画质到底掉多少

本周 r/LocalLLaMA（本地大模型跑分社区）一则帖子引发 200 多条回复：英伟达新推的 NVFP4 量化格式（一种把模型权重压成 4 位浮点以提速、画质会下降的技术）到底损失多少精度，5090 用户吵到现在没结论。

这是什么

量化（quantization）是给 AI 模型「瘦身」的标准做法——把权重从 32 位压到 8 位、4 位甚至更低，位数越少跑得越快、占显存越少，但回答质量会下滑。Q4、Q5、Q6、Q8 是社区里通用的画质档位标签。NVFP4 是英伟达为 Blackwell 架构（RTX 5090 用的芯片）定制的 4 位浮点格式，靠硬件原生指令拿到接近翻倍的推理速度。代价是：它到底相当于 Q4 还是 Q8 的画质，目前没有公认的量化对比数据。原帖主 nirurin 写得很直接——「大家都说 no-brainer，但没人给我看数据」。

行业怎么看

支持方认为 Blackwell 架构下 NVFP4 接近 Q8 水平，速度收益远超画质损失，值得换；反对方（也是原帖主）坚持没看到量化对比之前不下结论，认为这是在拿精度换营销话术。我们更警惕的是，NVFP4 是英伟达私有格式，只跑得动自家 GPU——用速度优势把用户锁进英伟达生态，跟当年 CUDA 绑定 AI 研究人员的逻辑一脉相承。这也意味着，AMD、苹果想做本地 AI 推理，必须各自造一套等价方案，否则在速度上会一直落后。

对普通人的影响

对企业 IT：评估本地部署方案时要把「格式绑定硬件」算进长期成本，不能只看显存和速度。

对个人职场：「本地跑 AI」正从极客玩具走向可用工具，未来硬件换代节奏会明显加快。

对消费市场：苹果、AMD 若想发力端侧 AI，都要面对类似的格式选择题。