Mooncake

Kimi K3 轻量复刻引出缓存难题，推理框架开始重写状态管理

Kimi K3 的轻量化复刻项目暴露了一个关键问题：KDA 这类固定状态注意力无法直接套用传统 KV 缓存。文章拆解了 SGLang 与 vLLM 的适配方案，也提醒我们，模型做小之后，真正的门槛正从参数规模转向推理基础设施。