这是什么

本周 Reddit 上有人用 360 美元攒出一台能跑本地大模型的服务器——这数字低到让人觉得"AI 必须堆 GPU"是过时的认知。

具体方案:4 张二手矿卡 CMP 50HX 替代原来的 P102-100,单张 80 美元,总价 360 美元(约 2600 元人民币),单卡待机功耗仅 8 瓦。这位用户还提到,他每年在 RunPod 上微调(用行业数据再训练开源模型,让它更贴合你的业务)约 10 个模型,花费仅 50 美元。他的结论是:"没必要花几千美元。"

行业怎么看

社区里不少 DIY 玩家呼应——矿卡改造 AI 算力在 2024-2025 年已是成熟玩法,本地部署(把模型装在自己机器上跑,数据不出门)的成本曲线持续下行。

但我们要说几个保留意见。第一,这是单一案例不是行业基准,不同模型的兼容性、稳定性差异很大。第二,"360 美元"只是显卡钱,电源、散热、机箱、电费这些隐性成本没算进去。第三,微调便宜但不等于"易用"——数据准备、模型评估、迭代优化的人力成本远高于 50 美元的算力费。第四,本地部署在数据隐私上确实有优势,但运维、备份、安全更新这些事,普通中小企业根本没人手做。

对普通人的影响

对中小企业 IT:值得认真评估"本地+云"的混合架构,但前提是团队里得有懂部署和运维的人,否则省下的云费用会变成试错时间。

对个人职场:自己攒机器仍是少数人爱好,但"AI 一定很贵"这个认知应该更新——很多场景下硬件早已不是瓶颈,工程能力和数据质量才是。

对消费市场:算力便宜最终会反映到产品上。我们预计会看到更多"本地版"AI 产品——智能音箱、家用存储设备、办公设备内置本地大模型,不依赖云端也能用。