LLM 压测

一个工程师的 Reddit 提问，暴露 LLM 部署最被低估的成本

我们注意到，本周 r/LocalLLaMA 上一条普通提问被顶上首页：开发者找不到靠谱的 LLM 推理压测工具。这背后是 AI 项目从原型走向生产后，被忽视的算力、存储与稳定性成本。