Delta Inference Engine

DeepSeek-V4.1-Flash 压缩模型跑上单张 3090 — 本地推理正逼近可用门槛

Delta Inference Engine 0.93 让 DeepSeek-V4.1-Flash 的低比特压缩版本在单张 RTX 3090 上维持约 41 tok/s，并将可用内存门槛降至 64GB。更值得关注的不是跑分，而是本地大模型开始从“专业玩家玩具”变成企业可控部署的现实选项，但速度与效果