M系列芯片

本地跑通义千问 45 tokens/秒 — 苹果芯片成了开源大模型隐形赢家

一位 Reddit 用户在苹果 M 系列芯片上把通义千问 3.8B 跑到 45 tokens/秒，刷新该模型在消费级硬件上的速度纪录。本地跑大模型正从极客玩具变成可选项。