小模型
找到 12 篇关于此标签的文章
TokenAI 发了款 Horus Cyber Nano — 但关键数据全'待公布'
本周美国小公司 TokenAI 公布了一款名为 Horus Cyber Nano 1.0 的模型，但基准测试和模型权重都被推迟到后续发布。在小模型赛道每周冒出新品的环境下,这份'预告型公告'暴露了行业的新问题。
$807 训出 28 亿参数模型：小而专可能比大而全更值得押注
Unbounded Labs 用 807 美元和单张 H100，从零训练了一个只懂 1931 年前英语的大模型 Bart。他们还顺手造了第一套「古籍模型」评测基准。这件事不只是省钱 — 它在问一个更大的问题：小而专的模型到底有没有未来？
对话 context 烧钱 — 开发者让 0.8B 小模型给 70B 减压，按工种配模型
Reddit LocalLLaMA 板块一个讨论让我们注意到：让千问 0.8B 这种小模型专门压缩对话历史，再喂给 70B 大模型推理——不同任务不该共用一个模型，正在悄悄改变 AI 公司成本结构。
25M 参数模型声称追平自家 50M — 一场社区实验，更是一场关于小模型路线的争议
一家叫 SupraLabs 的小团队本周用消费级显卡训练出 25M 参数的语言模型（约为 GPT-2 的六十分之一），并声称成绩追平自家 50M 旧版本。我们看完采样，倾向于把它归为社区实验秀——但它指向的「小模型跑在本机」趋势，值得记一笔。
8 万参数的 AI 模型出现 — 它不是 ChatGPT 的对手，但说明了另一件事
独立开发者最近放出了仅 8 万参数的微型语言模型 Aurora-80K，性能远不及主流大模型，但作为开源项目展示了极简架构的可能。它不会装进你的手机，但让我们看到 AI 模型能小到什么程度。
Liquid AI 发 2.6B 小模型可本地跑 — 小模型路线开始被认真对待
Liquid AI（MIT 出身的 AI 公司）这周公开了 2.6B 参数的 LFM 2.5 模型，提供 GGUF 格式，可在普通笔记本直接跑。单看不是大新闻，但叠在 Phi、Llama、Qwen 的小模型线上，'AI 不一定要走云端'这件事正在悄悄变成企业选项。
通义千问 27B 新模型很强，但默认"过度思考"是个被忽视的隐患
阿里这周发布 Qwen 3.8 27B 模型，知名开发者 Simon Willison 评价"优秀但默认过度思考"。这暴露了开源中小模型在跑分与真实使用成本之间的张力，企业用户部署前需留意。
本地小模型写代码终于能用了 — 开发者用 RTX 4060 跑 AI 助手，省云端月费
一个开发者开源的工具：让 8GB 显卡也能当 AI 编程助手，处理代码片段；云端大模型只负责规划。本地推理成本接近零，对企业 IT 采购和独立开发者都有参考价值。
1.5B 微调模型笔记本秒答命令 — 小模型正蚕食大模型的垂直场景
一位程序员把通义千问 1.5B 微调成 shell 命令助手，笔记本 1 秒内出结果，跑分追平未微调的 7B 通用模型。说明在垂直场景里，小模型正在悄悄蚕食大模型的应用空间。
Liquid 推出 2.6B 小模型 — 本地跑 AI 的门槛正在被踩平
Liquid AI 这周放出 2.6B 参数的小模型，普通显卡就能跑出每秒 260 token 的速度。它的能力有限，但足以应付日常琐碎任务——这意味着本地 AI 的实用门槛又往下走了一步。
Gemma 4 逐层嵌入引讨论 — 把知识和推理拆开存储，小模型的机会还是幻觉
Gemma 4 的逐层嵌入设计引发社区讨论：模型的知识存储和推理能力能否分开扩展？如果可以，2B 小模型或许能装下 20B 的知识量。这直接关系到企业用小模型本地部署的可行性边界。
764次实验揭秘：小模型部署的三大反常识陷阱
企业自建小型AI模型时，照搬GPT-4提示词规范反而让准确率暴跌64%，这迫使每个计划"私有化部署AI"的老板重新评估技术方案选型。