43MB 模型让语音直接变操作指令 — 端侧 AI 这条路走通了

这是什么

Neuphonic 是一家伦敦语音 AI 创业公司，这周在 Apache 2.0 协议下开源了一个叫 NeuDecide 的模型，体积只有 43MB。它做了一件反常的事：用户开口说话，模型直接吐出“调用哪个工具、传什么参数”的指令，跳过传统流程里“先把语音转成文字”这一步。

在 SLURP（一个公开的语音工具调用测试集）上，从 10 个候选工具里选对的准确率是 72.4%。作为对比，把 Nvidia 的 Parakeet（语音转文字模型）和 Google 的 FunctionGemma（文字转函数调用模型）串成两步走，准确率只有 24.4%——NeuDecide 是其 3 倍。

硬件门槛低得让人意外：MacBook M3 上从开口到给出指令 46 毫秒，三星 S24+ 是 82 毫秒，连树莓派 5 这种几百块的小电脑也能跑（206 毫秒）。

行业怎么看

支持者认为这是端侧 AI（指模型在本地设备运行、不依赖云端）落地的标志性事件。云端大模型贵、慢、要上传语音，而 NeuDecide 让机器人、智能家居、车载设备在没网的环境下也能听懂指令并执行。

但质疑也值得听：72.4% 的准确率是在工具只有 10 个、相对干净的测试集上跑出来的。真实环境里用户口音、背景噪音、多轮对话都会拉低准确率；语音指令一旦执行错——比如“把客厅灯调暗”被理解成“把客厅灯关掉”——代价不小。

另一个值得注意的对比是，Google 和 Nvidia 这样的巨头把各自最强模型组合起来反而输了 3 倍，说明在特定任务上，专业化小模型已经追上甚至超过通用大模型的拼凑方案。

对普通人的影响

对企业 IT：客服系统、车机、智能家居厂商可以本地部署语音理解，不用把用户语音上传云端，隐私和带宽成本两头都受益。

对个人职场：“说话就能调出表格、写进文档”可能成为下一个生产力入口，但要等产品级集成，短期不会自动发生。

对消费市场：智能音箱和车载语音会更“听得懂人话”，但 72% 离 99% 还远，别高估短期内替代触屏的速度。