一家叫 Cactus Compute 的公司这周把语音转文字模型压到了 16.9MB — 这个体积相当于一张高清照片,却比 OpenAI 开源标杆 Whisper base 还要准,速度快 6 倍。它支持英、德、法、西、意、荷、波 7 种欧洲语言,可装进手机、手表、智能家居甚至微控制器(家电里的廉价小芯片)。值得关注的还有「关键词偏置」功能:通过调整解码时的偏好,让模型认出「Siobhan」「Krzysztof」这种训练时没见过的人名。
这是什么
Whistle 走的是小而精路线。5500 万参数里只有 3600 万在每次推理时真正工作(这是 MoE 思路,即每次只激活一部分参数),并用 2 比特量化(把模型权重压到极低精度存储)。架构上一个聪明的设计是「分层可部署」——从 2 层到完整深度都能跑,开发者按设备性能自由取舍。它还跑在 17 个平台上,覆盖 macOS、各类 Linux(含 RISC-V、MIPS32 这类小众芯片架构)、Windows、Android、iOS,甚至浏览器里的 WebAssembly。体积小、本地跑、跨平台,这三件事同时成立的语音模型,过去并不常见。
行业怎么看
支持方认为,「大模型即一切」的叙事正在松动。云端 API 贵、有延迟、对话数据外泄;而本地小模型成本接近零、断网可用、隐私可控。Whistle 这种 17MB 体量,意味着智能音箱、车载系统、可穿戴设备可以内置语音识别,不再依赖云端。这对 OpenAI Whisper API、阿里语音、字节火山等云端语音服务是直接冲击。
但反对声音同样清晰。第一,Whistle 目前只覆盖 7 种欧洲语言,中文不在列,对中文用户暂时是「看得见吃不到」。第二,模型小不等于工程简单,要在 RISC-V、watchOS 这种小众平台上稳定运行,部署和兼容性测试仍是重投入。第三,Whisper 已经积累了大量工具、文档与社区,新来者要说服开发者迁移并不容易。我们注意到一位从业者的判断:「小模型的胜利,是某些场景的胜利,不是全场景的胜利。」
对普通人的影响
【对消费市场】千元价位的智能音箱、耳机甚至儿童玩具,未来可能内置可用的语音转写能力,不再需要联网或付费订阅。
【对个人职场】会议录音转文字、采访整理这类工作,在内网电脑上就能完成,不必担心对话内容上传第三方。法律、医疗、咨询这类隐私敏感行业的助理岗,会最先感受到工具变化。
【对企业 IT】公司可以评估把语音转写从云端 API 切到本地小模型,长期看调用费降为零,代价是前期要做选型测试。Whistle 暂未支持中文,国产同类方案(如阿里 FunASR)仍是更稳妥的起点。