MoE 架构

2.8 万亿参数大模型被塞进消费级电脑 — 跑得起来，但慢得没法用

一位工程师用 4070 Ti 显卡 + 32GB 内存，硬把 711GB、2.8 万亿参数的 Kimi K3 跑起来了。正常速度每秒只生成 1-2 个字。真正突破在存储：用两块 SSD 并行读取，把 DeepSeek 速度从 1.14 提到了 8.08 tokens/秒。