算力成本
找到 10 篇关于此标签的文章
DeepSeek API 一夜涨 11 倍 — 国产大模型的白菜价时代结束了
DeepSeek 旗舰款 API 缓存命中输入价格从 0.025 元涨到 0.3 元 / 百万 tokens,涨幅 1100%。这家曾把行业价格打穿地板的公司,终于收刀——而它很可能不是最后一个。
Qwen3.8 27B 实测:开最高推理档位,多花 7 倍时间只多 10% 质量
阿里千问新模型支持三档推理强度(让模型'多想一步'的程度)。实测显示:最高档耗时是最低档 6.4 倍,但视觉评分只多 10%。AI 的边际收益递减,已经肉眼可见。
AI 工厂要建你家后院了 — 这事跟咱们小老板有啥关系
美国两党都在反对 AI 数据中心。我用最简单的话说清这事对小创业者意味着什么,以及要不要现在就动
本地跑大模型到底要多少内存?Reddit 一道选择题意外暴露 AI 算力困境
一位开发者在 Reddit 抛出问题:128GB 还是 256GB 内存才够本地运行主流大模型?讨论意外指向一个事实——普通硬件已难以跟上模型膨胀速度。对想自建 AI 基础设施的企业,这是个值得提前算清的账。
DeepSeek V4 免费比肩十亿美元系统 — 烧钱堆算力的护城河正在失效
DeepSeek V4 以免费开源姿态跑出十亿美元级闭源系统的成绩,标志着大模型竞争从“算力军备赛”转向“工程效率战”。烧钱堆算力的护城河正在失效,这将倒逼行业重新审视商业模式与技术壁垒。
读懂 Transformer 注意力机制——大模型能长记性全靠这套 2017 年的老引擎
注意力机制是大模型底层的关键原理,通过给重要信息分配高权重解决了AI健忘问题。搞懂它不是为了写代码,而是看懂大模型长文本的能力边界和背后的算力账单。
二手 RTX 3090 翻新指南走红 — 算力平替让极客开始自修显卡跑 AI
一篇二手 RTX 3090 翻新指南在开发者社区走红。这反映出一个值得关心的趋势:为避开昂贵的云端算力账单,技术团队正转向二手消费级硬件跑本地模型,算力获取方式正变得草根化。
潜在空间推理:AI算力成本即将再次断崖式下跌
AI推理成本或将再降一个数量级,依赖高价大模型API的企业需重新评估其AI采购策略与竞争护城河。
llama.cpp张量并行突破:本地AI算力门槛再降一级
多GPU本地推理加速落地,企业无需依赖云厂商即可运行大模型,私有化部署的算力成本与技术门槛同步下移,采购决策窗口正在打开。
Anthropic「安全牌」背后的真相:算力成本才是护城河的本质
Anthropic用「模型太危险」掩盖的,是每次运行50美元的天文算力成本——这不是技术壁垒,是成本结构游戏。