MQBench

AI 模型瘦身 4 倍还能跑准 — 这件技术小事正在改写企业算力账本

MQBench 这周更新到第七个硬件后端。背后是模型量化这门「压缩术」——把 32 位精度的模型压到 8 位，体积与推理成本降到 1/4，精度损失通常不到 1%。这是 AI 从云端走向边缘、从大厂走向中小企业的关键工程，却少有人讲清楚。