返回首页

算力成本

找到 10 篇关于此标签的文章

DeepSeek国产大模型

DeepSeek API 一夜涨 11 倍 — 国产大模型的白菜价时代结束了

DeepSeek 旗舰款 API 缓存命中输入价格从 0.025 元涨到 0.3 元 / 百万 tokens,涨幅 1100%。这家曾把行业价格打穿地板的公司,终于收刀——而它很可能不是最后一个。

8月17日2 分钟
Qwen3.8阿里

Qwen3.8 27B 实测:开最高推理档位,多花 7 倍时间只多 10% 质量

阿里千问新模型支持三档推理强度(让模型'多想一步'的程度)。实测显示:最高档耗时是最低档 6.4 倍,但视觉评分只多 10%。AI 的边际收益递减,已经肉眼可见。

8月16日2 分钟
AI 基础设施数据中心

AI 工厂要建你家后院了 — 这事跟咱们小老板有啥关系

美国两党都在反对 AI 数据中心。我用最简单的话说清这事对小创业者意味着什么,以及要不要现在就动

8月9日2 分钟
LocalLLaMADeepSeek

本地跑大模型到底要多少内存?Reddit 一道选择题意外暴露 AI 算力困境

一位开发者在 Reddit 抛出问题:128GB 还是 256GB 内存才够本地运行主流大模型?讨论意外指向一个事实——普通硬件已难以跟上模型膨胀速度。对想自建 AI 基础设施的企业,这是个值得提前算清的账。

8月8日2 分钟
DeepSeekTwoMinutePapers

DeepSeek V4 免费比肩十亿美元系统 — 烧钱堆算力的护城河正在失效

DeepSeek V4 以免费开源姿态跑出十亿美元级闭源系统的成绩,标志着大模型竞争从“算力军备赛”转向“工程效率战”。烧钱堆算力的护城河正在失效,这将倒逼行业重新审视商业模式与技术壁垒。

5月6日2 分钟
Transformer注意力机制

读懂 Transformer 注意力机制——大模型能长记性全靠这套 2017 年的老引擎

注意力机制是大模型底层的关键原理,通过给重要信息分配高权重解决了AI健忘问题。搞懂它不是为了写代码,而是看懂大模型长文本的能力边界和背后的算力账单。

5月3日2 分钟
RTX 3090本地推理

二手 RTX 3090 翻新指南走红 — 算力平替让极客开始自修显卡跑 AI

一篇二手 RTX 3090 翻新指南在开发者社区走红。这反映出一个值得关心的趋势:为避开昂贵的云端算力账单,技术团队正转向二手消费级硬件跑本地模型,算力获取方式正变得草根化。

5月1日2 分钟
AI推理算力成本

潜在空间推理:AI算力成本即将再次断崖式下跌

AI推理成本或将再降一个数量级,依赖高价大模型API的企业需重新评估其AI采购策略与竞争护城河。

4月12日2 分钟
本地大模型算力成本

llama.cpp张量并行突破:本地AI算力门槛再降一级

多GPU本地推理加速落地,企业无需依赖云厂商即可运行大模型,私有化部署的算力成本与技术门槛同步下移,采购决策窗口正在打开。

4月9日2 分钟
AI竞争格局算力成本

Anthropic「安全牌」背后的真相:算力成本才是护城河的本质

Anthropic用「模型太危险」掩盖的,是每次运行50美元的天文算力成本——这不是技术壁垒,是成本结构游戏。

4月9日2 分钟