GPU成本

AI 推理 GPU 一半时间在'等人回话' — 开源工具 graphsignal-top 把沉默开销现形

本周开源项目 graphsignal-top 像 top 命令一样实时盯着推理 GPU。在官方截图中，跑 Qwen3-32B 双卡 PCIe 时，墙上时钟的一半都在等跨卡通讯完成。这意味着 AI 推理成本里有一大块藏在等待中、此前看不见。