一名开发者在普通 780M 集成显卡上测得约每秒 37 token（模型连续生成速度，文本越长通常越慢），并认为 LFM2.5-24B-A2B 兼顾了任务能力与速度。这组社区数据表明，本地 AI 的门槛正在从高端显卡下沉。

这是什么

LFM2.5-24B-A2B 是 Liquid AI 发布的混合专家模型：模型总参数量为 240 亿，但处理每个词元时只激活约 20 亿参数，以减少计算和显存负担。Hermes 则是一个让大模型调用外部工具、拆分并执行任务的智能框架（负责把请求转成具体操作）。

作者将它定位为“任务执行器”，而非编程模型：不是直接写出复杂代码，而是承接拆解后的低至中等难度工作。模型提供了 GGUF 量化版本（把模型参数压缩成更适合本地运行的格式），可在 CPU 或消费级显卡上运行。

行业怎么看

值得关注的是，本地模型正从“参数竞赛”转向单位硬件可完成的工作量。约每秒 37 token 意味着，本地运行不再是只能做演示，而可能承担文档处理、信息整理和工具调用等持续任务；配合 Hermes，企业还能把复杂请求交给更强模型或外部服务，只让小模型处理执行环节。

但这只是单一开发者在特定设备、上下文长度和量化版本下的结果，不能直接外推到所有任务。该模型并非编程模型，复杂推理、长文档处理与稳定性也未得到充分验证。社区帖子还可能存在选择性展示，缺少统一基准、功耗、内存占用和失败率对比。

此外，本地部署仍有隐性成本：设备采购、模型管理、权限控制和结果监控都需要投入。对多数企业而言，云端按量付费可能更省心；本地优势更适合数据敏感、调用稳定或已有硬件的企业。

对普通人的影响

对企业 IT：本地模型可能成为云端模型的补充，先处理内部数据分类、摘要和标准化流程，减少敏感信息外传及高频调用成本。

对个人职场：懂代码的人可用普通电脑搭出自动执行工作流的工具，但非技术用户仍会面对安装、调试和权限配置门槛。

对消费市场：离线摘要、文件检索和个人知识助手会逐渐进入电脑与手机功能，设备算力不必全部依赖云端，但实际体验取决于内存、速度和软件适配。