Roofline

本地跑大模型前先算笔账 — 这款开源计算器告诉你硬件到底够不够

本地部署大模型最大的门槛是硬件而不是模型。这周一个开发者发布的推理计算器，把 GPU、显存、量化参数摆在同一个公式里，让用户在动手前就知道理论上限。值得关心的是：开源工具正在悄悄补齐「本地 AI」这条路。