这是什么

我们注意到，一位 Reddit 用户用两台合计不到 20GB 内存的旧设备（一台 mini PC、一台 Mac mini），跑通了一个 300 亿参数（30B）的开源大模型，推理速度做到每秒三十多个 token（token 是模型处理文字的最小单位）。这不是性能突破，而是一个方向信号：RAM 价格被数据中心需求推高时，「拼凑旧机器跑 AI」是不是有了第二条路？该用户还把 RAG（让 AI 检索外部文档来回答问题）的知识库分散存在两台机器的内存里、不写硬盘，并设计了掉线自动恢复的容灾逻辑。

行业怎么看

本地 AI 圈跟帖里多数人认可「局域网内拼内存」确实能跑通，但也指出三个问题：第一，广域网下延迟会塌掉，目前看只适合小团队；第二，文档分片散在多台机器上，安全合规和隐私边界变得模糊，金融、医疗场景不太敢用；第三，维护成本被低估 —— 一个人维护两台设备可以，企业 IT 要管两百台就是另一回事。我们也注意到，云厂商的 token 价格这两年降了 10 倍以上，这条「省钱路线」目前更适合数据必须留在本地的场景，而非单纯图便宜。

对普通人的影响

对企业 IT：旧设备利旧有了新理由，但只建议在数据敏感、规模不大的部门试点，不要直接对标云服务的可靠性承诺。对个人职场：律师、医生、咨询顾问这类接触机密文档的人，未来可能在本地用 AI 处理文件，不必担心客户数据出公司网。对消费市场：mini PC 和老款 Mac mini 的二手价格可能被这类玩法托住 ——「能跑 AI」正在成为新卖点。