Liquid AI
Liquid AI 模型在普通显卡上跑到每秒 37 token,本地 AI 的成本账开始变了
Liquid AI 的 LFM2.5-24B-A2B 在社区测试中于普通集成显卡达到约每秒 37 token,并被用于把中等复杂度任务交给 Hermes 执行。它的意义不在跑分,而在降低本地模型部署对高端硬件的依赖。
找到 1 篇关于此标签的文章
Liquid AI 的 LFM2.5-24B-A2B 在社区测试中于普通集成显卡达到约每秒 37 token,并被用于把中等复杂度任务交给 Hermes 执行。它的意义不在跑分,而在降低本地模型部署对高端硬件的依赖。