LlamAmpere

开源量化方案把大模型推理误差再降一半，本地部署正在补课

JakeATX 发布 LlamAmpere v0.6.3，以 Qwen Flash Next 为基础降低量化误差，并提升长上下文推理速度。值得关注的是，开源社区正持续优化本地大模型的效率门槛，让有限显存设备也能运行可用模型。