本周开源社区有个不大不小的新闻:本地 AI 推理引擎 Lemonade 宣布放弃 AMD 的 ROCm 方案,全面转用 Vulkan。理由很硬核——实测下来 ROCm 比 Vulkan 慢大约 40 倍。
这是什么
Lemonade 是一个让你在自己电脑上跑大模型的工具。本地推理(inference)就是说不用连云端、不用付 API 费用,把 AI 模型装进自己的笔记本或台式机里跑。
它原本想支持 AMD 的 ROCm 计算平台(AMD 对标英伟达 CUDA 的 AI 软件栈),但实测发现太难用,于是直接砍掉这条路,改用 Vulkan——一种原本给游戏显卡设计的通用图形接口,近两年被发现跑 AI 推理意外好用。
对用 AMD 锐龙处理器、带核显的轻薄本用户来说,本地跑 AI 助手会更顺。但对 AMD 本身,这是又一个尴尬信号。
行业怎么看
支持方觉得这是务实的选择。开源工具人手有限,与其维护一个烂方案,不如换个跑得通的。Vulkan 跨平台,AMD、英伟达、英特尔核显都能跑,对整个本地 AI 生态是好事。
但批评者指出,这件事恰好暴露了 AMD 的结构性短板:硬件年年更新,AI 软件栈始终没立起来。对比英伟达 CUDA 沉淀十几年、绑定无数开发者和框架,AMD 在开发者生态上始终是追赶者。一个小工具的取舍,背后是整个平台的弱势——这不是 Lemonade 的问题,是 AMD 的问题。
对普通人的影响
对企业 IT:采购 AI 加速卡时,英伟达仍是稳妥默认。AMD 硬件便宜,但要算上额外的软件适配和人才成本,除非有显著价格优势,否则不划算。
对个人职场:用 AMD 锐龙轻薄本跑本地 AI 助手现在能用了,但和独显笔记本的体验还有距离。如果你日常工作要靠本地 AI 提效,硬件选型得重新掂量。
对消费市场:本地 AI 还在「能用但勉强」的阶段,距离真正替代云端 API 还要相当距离。短期内别为了「本地跑 AI」去换电脑。