LocalMind

37GB 大模型跑进了浏览器标签页 — 24GB 电脑也能本地跑

开发者 NakliTechie 把 LocalMind 做成了一个静态网页，靠 WebGPU 和磁盘流式读取 MoE 权重，让 24GB 内存的 Mac 也能跑 37GB 的大模型。MIT 开源，速度比 llama.cpp 慢约 3 倍。