DeepSeek 公开一处工程细节:AI Agent 烧钱不在模型
DeepSeek 这次开源的代码里藏了一组数字:同一套会话,换一个工程策略,缓存命中率从 6.4% 跳到 59.7%——9 倍差距。这件事值得我们关心:AI Agent(能自主拆解任务并执行的人工智能)落地的最大成本不在模型本身,而在工程架构。
相关推荐
基于 #DeepSeek 推荐
DeepSeekNVIDIA
DeepSeek 在两台几万元小机器上跑出 67 token/s — 本地大模型门槛正在塌方
本周一位 Reddit 用户用两台 NVIDIA DGX Spark 工作站(约 6 万元)跑出 DeepSeek V4 Flash 67-84 token/s 的稳定输出,配 100 万 token 上下文。我们关心的是这份民间复刻印证了一个被低估的趋势:开源大模型本地部署的成本正在快速下沉,企业
8月29日·www.reddit.com
DeepSeek投机解码
开源大模型现在会'预判'下一句了 — 投机解码正在变成推理标配
最近有用户在本地显卡上跑开源大模型时,肉眼看到投机解码在工作——AI 提前猜出'美利坚合众国'这类高频短语,瞬间整句输出。背后是 MTP 多 token 预测技术。我们关心的是:本地推理的成本曲线正在被悄悄改写。
8月29日·www.reddit.com
NVIDIADGX Spark
把 AI 思考深度拉满反而更差 — DGX Spark 本地实测给企业的提醒
一位 Reddit 开发者用四台 NVIDIA DGX Spark 桌面工作站实测 DeepSeek、Qwen 多款模型,发现「深度思考」模式反而让得分下降、耗时翻倍。这对花钱买 AI 推理服务的企业是直接的成本提醒。
8月29日·www.reddit.com
阿里巴巴OpenCodeReview
阿里把内部用两年的代码审查工具开源了 — 真正的卖点不是 AI,是工程
阿里开源 OpenCodeReview,GitHub 21k Star。它用「确定性工程 + LLM Agent」的混合架构解决通用 Agent 做代码审查的三大问题。值得关心的是:大厂开始把内部 AI 工具外放,中国 AI 工程化能力被拉到台面上。
8月29日·juejin.cn
DeepSeekCordis
DeepSeek 把 Agent 的五把钥匙交出来 — 中文社区开始啃源码
DeepSeek 开源的 Agent 框架里有一套事件分发机制,最近被开发者「怕浪猫」用「五把钥匙」做类比写成 8000 字源码教程。它说明中文 AI 开源生态正在从「调 API」走向「读源码」。
8月29日·juejin.cn
NVIDIADGX
DGX 跑 AI 也过热 — NVIDIA 旗舰得用户自己加风扇这事说明什么
一位 Reddit 用户给 NVIDIA DGX 加装主动散热,因为跑 DeepSeek 等模型时过热。这是真实的本地 AI 部署问题:即使是 NVIDIA 旗舰,持续负载下也得用户自己魔改,「即插即用」的叙事被戳穿。
8月29日·www.reddit.com