jbooth

CPU 跑大模型提速 3-7 倍 — llama.cpp 一次更新，悄悄改写企业 AI 算力账本

开源推理框架 llama.cpp 合并一项 CPU 优化，使矩阵运算提速 3-7 倍。这看似一次底层更新，实则意味着企业用普通服务器就能跑大模型，原本非买不可的 GPU 堆栈，第一次有了真正可用的替代方案。