三星
HBF 新型存储芯片登场 — 三星押注,AI 推理成本账可能被改写
HBF(高带宽闪存)是介于 DRAM 和传统 NAND 之间的一种新存储形态。亚洲厂商押注它能压低 AI 推理成本。值得关心:未来跑大模型,不一定非要用最贵的内存。
找到 4 篇关于此标签的文章
HBF(高带宽闪存)是介于 DRAM 和传统 NAND 之间的一种新存储形态。亚洲厂商押注它能压低 AI 推理成本。值得关心:未来跑大模型,不一定非要用最贵的内存。
技术频道 Fireship 本周指出,近期 AI 在数学领域密集攻克多个开放问题。这件事关乎的不只是数学界,更是 AI 推理能力的边界,以及我们如何看待「机器能思考」这件事。
C++20 的双缓冲无锁设计通过增加一倍内存,让数据生成与处理从排队串行变成并行。当大模型算力狂飙时,这种底层并发优化正在消除数据搬运造成的算力闲置,值得我们关心。
AI推理成本或将再降一个数量级,依赖高价大模型API的企业需重新评估其AI采购策略与竞争护城河。