前缀缓存

Kimi K3 的轻量复刻把大模型推理成本拉低四倍，但还不能代表生产效率

掘金项目用 CPU 交互演示 K3 Serve 模块，覆盖前缀缓存、投机回放、分页内存和集群调度。它展示的是缩小组件上的工程思路，不等于完整模型或真实 GPU 性能，但值得作为大模型推理降本方向的观察样本。