TokenAI 发了款 Horus Cyber Nano — 但关键数据全'待公布'
本周美国小公司 TokenAI 公布了一款名为 Horus Cyber Nano 1.0 的模型,但关键的基准测试成绩和模型权重都被推迟到后续发布。换句话说,这是一份只有名字、定位和承诺的'预告型公告'。
相关推荐
基于 #本地部署 推荐
DeepSeekNVIDIA
DeepSeek 在两台几万元小机器上跑出 67 token/s — 本地大模型门槛正在塌方
本周一位 Reddit 用户用两台 NVIDIA DGX Spark 工作站(约 6 万元)跑出 DeepSeek V4 Flash 67-84 token/s 的稳定输出,配 100 万 token 上下文。我们关心的是这份民间复刻印证了一个被低估的趋势:开源大模型本地部署的成本正在快速下沉,企业
8月29日·www.reddit.com
QwenApple Silicon
Qwen 3.8 实测:深度思考模式多烧 5.5 倍 token,本地部署账该重算
一位 Reddit 用户在 MacBook Pro M5 Max 上跑了 Qwen3.8-27B:开启「深度思考」模式后,token 消耗是普通模式的 5.5 倍、推理耗时 6 倍;关闭后质量又掉到其他 MoE 模型之后。开源模型「会思考」与「想得起」之间的成本裂缝正在浮出水面。
8月29日·www.reddit.com
QwenRTX 5080
RTX 5080 跑 Qwen 大模型只有 6 字/秒 — 本地部署 AI 的家用门槛还有多高
有人在 Reddit 用 RTX 5080 + 64GB 内存跑 Qwen 量化模型,每秒只生成约 6 个汉字。这件事值得关心:想「让 AI 跑在自己电脑上」,对硬件和调参能力的要求仍远超普通用户。
8月29日·www.reddit.com
腾讯GGUF
腾讯把 1.5TB 模型压到 200GB — 本地部署大模型的门槛正在消失
这周腾讯把 1.5TB 大模型压到 200GB,性能保留约 98%。这件事意味着企业本地跑大模型的硬件门槛被实质性跨过,对云端 API 的商业模式是个微妙信号。
8月29日·www.reddit.com
NVIDIADGX
DGX 跑 AI 也过热 — NVIDIA 旗舰得用户自己加风扇这事说明什么
一位 Reddit 用户给 NVIDIA DGX 加装主动散热,因为跑 DeepSeek 等模型时过热。这是真实的本地 AI 部署问题:即使是 NVIDIA 旗舰,持续负载下也得用户自己魔改,「即插即用」的叙事被戳穿。
8月29日·www.reddit.com
Qwen千问
千问 27B 模型只要 18GB 显存就能跑 — 本地大模型门槛又降一档
阿里千问 8 月发布的 27B 多模态模型,Q4 量化后只需 18GB 显存,消费级显卡就能跑起来。开源大模型的本地化门槛又降一档,但 MoE 版本仍需集群,工具链分裂也是老问题。
8月29日·juejin.cn