低功耗推理

客户设备跑不动本地 AI 时，我重新看了低功耗推理芯片

DeepX 正研发低功耗 AI 推理芯片，目标是让百亿参数模型在低于 5W 功耗下运行。它更适合设备端与边缘场景，但对普通副业玩家来说，现阶段更适合观望而非采购。