tandem.cpp

tandem.cpp 让超大模型借 CPU 跑得更快，本地 AI 的瓶颈正在转向内存

开发者为 llama.cpp 提交的补丁把 GPU 与 CPU 协同起来，让超出显存、甚至内存容量的大模型通过 SSD 分层加载。在部分测试中，速度提升至原来的 1.4—2.1 倍，也开始支持 AMD。它值得关注，因为本地模型部署正从“换一张更贵的显卡”转向更复杂的系统调度。