Qwen
消费级显卡开始跑起大模型训练 — 门槛降低但尚未成熟
研究者用低比特训练方法，把大模型训练所需显存从传统 AdamW 优化器的约 16 字节/参数压到 1 字节以下，使 270 亿参数模型可在单张 24GB 显卡上训练。它为本地模型定制提供了新路径，但数据成本、事实记忆和稳定性仍未解决。
返回首页
BitNet
找到 3 篇关于此标签的文章
BitNet
100 欧元训出 1 亿参数模型 — 训练白菜价了，但能力还差得远
一个 Reddit 用户用 100 欧元、不到 5B token，从零训练出 1 亿参数的 BitNet 小模型，支持 64K 上下文。值得关注的是训练成本骤降这件事本身，不是模型能力。
BitNet
有人在普通CPU上跑出36 token/秒 — 大模型推理开始摆脱显卡依赖
一位开发者用纯C99写出零依赖推理引擎，在Intel至强CPU上跑出每秒36个token的成绩。值得关心的是：当模型压缩到1.58位，算力天花板不再是GPU，而是内存带宽。