这是什么

苹果本周发布 M5 Ultra,内存带宽 1.2TB/s——也就是每秒可搬运 1.2 万亿字节。我们注意到,这个数字让本地跑大模型(让 AI 在你自己电脑上运行、不靠云端)第一次跨过了实用门槛。

带宽对普通人陌生,对跑大模型的人来说却是命门:每生成一个字(业内叫 token),都要从内存读取上百 GB 的模型参数,带宽不够就一个字一个字地卡。1.2TB/s 的水平,已经能流畅跑 700 亿参数级别的模型。

技术细节:Reddit 用户推测 M5 Ultra 仍使用 LPDDR5X(当前主流笔记本内存)而非新一代 DDR6,若是,意味着苹果靠的是内存控制器和封装工艺而非硬件升级——也是它一贯的打法。

行业怎么看

乐观声音集中在"端侧 AI"(即在本地设备、不上云跑 AI)终于落地。过去两年厂商都在喊"AI PC",但真正能在笔记本上跑得动千亿模型的,几乎只有苹果。1.2TB/s 让"用 Mac 替代云端 API"从极客玩具变成可行选项。

但冷静的声音也有三条。第一,训练市场仍被英伟达垄断,H100/B200 的带宽是 M5 Ultra 的 5-10 倍,苹果啃不到训练这块蛋糕;第二,能跑满 1.2TB/s 的 Mac 起售价大概率在 4 万元以上,"普通人用得起"还谈不上;第三,AI 软件生态仍以英伟达的 CUDA(行业主流的 GPU 编程框架)为标准,开发者愿不愿意为苹果的 Metal(苹果自家的 GPU 编程框架)重写代码,决定这条路能走多远。

对普通人的影响

对企业 IT:对数据敏感行业的本地 AI 部署重新成为选项——金融、医疗、律所可以把模型跑在自己机器里,数据不出门。

对个人职场:知识工作者未来一年可能开始把日常文档、会议记录、客户资料的 AI 处理放在自己的 MacBook 上,而非上传到 ChatGPT 或企业云。

对消费市场:高端 Mac 的"生产力工具"定位正在被改写,更多白领会把 Mac 视为唯一能本地跑 AI 的设备,而不只是视频剪辑师的选择。