Apple
找到 13 篇关于此标签的文章
两台 Mac Studio 拼出 4.8TB/s 内存带宽 — 家用 AI 算力要逆袭机房,但社区存疑
Exo Labs 声称用两台 m5u Mac Studio 集群跑出 4.8TB/s 内存带宽,速度比单机翻倍。如果属实,本地跑大模型的成本会显著下降 — 但带宽与延迟是两回事,社区还在交叉验证。
RTX 5090 售价 5090 美元 — 本地跑大模型的好日子结束了
RTX 5090 显卡实际成交价冲到 5090 美元,Reddit 本地 AI 社区一片哀嚎。背后是消费级显卡跑大模型的窗口正在关闭——开源本地化路线,第一次遇到了真金白银的硬件门槛。
Qwen3.8 在 Mac 上跑出 94% — 但基准测试正在失效
阿里通义悄悄放出 Qwen3.8 实验版,本地开发者用五万块的 Mac 工作站跑出 94% 的基准分。但比分数更值得关心的是博主自己的一句话 —— 模型已经好到基准测试分不出高下。
Mac mini 升级 M6 芯片 — 本地跑 AI 大模型的门槛又降了一档
苹果本周更新 Mac mini,主芯片跳到新一代 Apple Silicon。值得关心的是:这台小主机一直是'本地跑 AI 大模型'的代表机型,新芯片意味着更多普通人也能在家部署开源 AI;但距离真正进入办公室和家庭,还有一段路。
Mac Studio 顶配塞进 512GB 内存 — 苹果开始正面抢云端 GPU 的活
苹果发布搭载 M5 Max 与 M5 Ultra 的新 Mac Studio,顶配统一内存高达 512GB。本地运行 70B 参数级大模型第一次有了"非玩具级"的硬件选项,云端 GPU 租赁的垄断开始被撬动,但价格仍是普通用户的硬门槛。
苹果 M5 Ultra 带宽 1.2TB/s — 本地跑大模型跨过实用门槛
苹果本周发布 M5 Ultra,内存带宽达到 1.2TB/s。这是大模型本地推理首次具备实用性能,对处理敏感数据的知识工作者来说,可能改变使用 AI 的方式。
DeepSeek 系模型在 5 万元苹果机上跑出 25 token/s — 本地 AI 开始追上云端
一位开发者用自改的开源推理框架,在 M2 Ultra Mac 工作站上以 25.8 token/s 的速度本地跑通 DeepSeek 最新大模型,且模型体积比官方量化版还小。这意味着开源中国大模型在专业硬件上已达到「可对话」水平。
本地跑通义千问 45 tokens/秒 — 苹果芯片成了开源大模型隐形赢家
一位 Reddit 用户在苹果 M 系列芯片上把通义千问 3.8B 跑到 45 tokens/秒,刷新该模型在消费级硬件上的速度纪录。本地跑大模型正从极客玩具变成可选项。
Mac 跑本地大模型,开发者花两周实测:一团乱麻 — 落后英伟达一整代
一位 Reddit 社区开发者花两周全职测试了 Mac 上跑大模型的所有主流框架,结论直接:苹果 AI 软件生态碎片化严重,关键优化技术分散在十几个 fork 里,没有英伟达 CUDA 那样成熟。对想用 Mac 部署本地 AI 的公司,这是个值得警惕的信号。
本地大模型终于「能跑」了 — 但离你上班用的电脑,还隔着三道坎
阿里即将发布千问 Qwen 3.8,架构沿用 3.6 并支持 MTP(多 token 同时预测)加速。结合 AMD Strix Halo 与苹果 M4/M5 的统一内存架构,爱好者在 2000 美元级笔记本上跑 70B 模型成为可能。但「能跑」和「上班能用」之间,仍隔着价格、显存和软件适配。
你刚培养顺手的 AI 合作伙伴,第二天可能就被法务按下暂停键
这条新闻表面是苹果和 OpenAI 的人才拉扯,落到咱们这种小团队身上,其实是在提醒:别把增长押在某一个人、某一家平台,早点把流程、素材和客户关系握在自己手里。
16GB Mac 跑起 Gemma 12B,但本地大模型离产品化还很远
一位开发者把 Gemma 12B 的 MLX 内核代码开源,并称在 16GB 的 M5 MacBook Pro 上可摸到 20-30 tok/s 上限。值得我们关心的是,这说明本地模型优化正在深入到底层,但离稳定、可交付的企业应用还有明显距离。
苹果折叠屏 iPhone 遭遇工程延误,消息人士称
报道指出,苹果折叠屏 iPhone 项目遭遇工程障碍,可能导致出货时间表推迟。