这是什么
Liquid AI 发布了一款 2.6B 参数的小模型 LFM 2.6B,定位是手机端和本地运行。在 RTX 3090 这种两代前的消费级显卡上,它能达到每秒 260 个 token 的生成速度、上万 token 的读取速度。模型本身不大,所以上下文窗口(模型一次能"读"多长的文本)只有 128k(大约相当于一本薄书),能力也有限——复杂任务做不了,但用来快速读长文找特定信息、查 Linux 命令、做点文本改写,够用。
值得关注的是"本地跑"这件事本身。过去要在自己电脑上流畅运行 AI 模型,要么买昂贵显卡,要么接受蜗牛速度。2.6B 这个体量意味着,对大部分有独立显卡的人来说,本地 AI 不再是玩具,而是可以塞进日常工作流的小工具。
行业怎么看
Reddit 社区里的开发者普遍觉得"挺好玩",但共识是:重要的事还得用云端大模型。本地小模型的价值在于"快"和"免费",不在于"强"。
反对意见也有:有人指出 2.6B 参数的模型在专业场景下的准确率堪忧,"快速但错误"有时候比"慢但可靠"更浪费时间。还有人担心隐私叙事被过度包装——多数用户根本不会去部署本地模型,这只是技术圈的自嗨。
我们关心的是 Liquid 这家公司的策略:押注小模型而不是卷参数规模。Liquid 源自 MIT 的研究孵化,走的是"结构化"路线(用数学方法设计模型架构),和主流"堆数据堆算力"的路径完全不同。这是条窄路,但一旦走通,对算力依赖会大幅下降。
对普通人的影响
对企业 IT:一些对数据敏感、又不想把数据传给云端的场景(法务、医疗、内部日志),本地小模型可能成为折中方案。但 2.6B 还远远不够,IT 决策者需要关注的是这条线整体的趋势,而不是某一款产品。
对个人职场:愿意折腾技术的人可以开始把"先丢给本地模型过一遍"作为日常习惯——查资料、整理格式、做草稿,省下 API 调用费用。但不折腾的人不用着急,云端工具够用。
对消费市场:短期内不会有"你的手机因为这个变聪明了"的体验。真正的变化会发生在未来 12-18 个月:当厂商把这些小模型预装进手机和电脑时,端侧 AI(不联网、在设备本地运行的 AI)才会进入日常生活。