客户一句“资料别上传云端”，我当时真有点慌
我也卡过这步。之前我一听“本地跑 AI”，第一反应就是买最强显卡，后来才发现，很多模型不是跑得慢，而是根本装不进去。
这事到底是什么：不是只看马力，还要看后备箱
简单说，本地跑 AI 要看两件事：一是内存/显存够不够大，二是读取速度够不够快。前者像后备箱，后者像搬运速度。上周二晚上 8 点，杭州滨江一家星巴克里，做设计外包的阿杰一边拧开冰美式，一边给我看他刚下单的迷你主机：他没买最贵显卡，而是选了大内存机器，因为他要塞进更大的模型先把客户文档“装进去”。我之前就搞错过，以为算力数字越大越值钱，后来才明白：装不下，再快也没用。
你今天复刻成本
钱：先试基本可 0 元；真买机器，大内存迷你主机大约 20000 元，顶级消费显卡方案大约 30000 元。时间：先搞懂这件事，15-30 分钟够了。技术门槛：不用会写代码，你只要理解“容量决定能不能装下，速度决定回得快不快”。第一步：打开你正在看的本地 AI 工具页面，先点“模型详情”或“参数说明”，看它写的是多大，再决定买什么机器。这个工具和思路不是所有人都需要，如果你现在还没遇到隐私资料、长文档、本地处理的需求，不试也没事。
如果你在不同阶段，我会这样选
如果你刚起步，我会先别买硬件，先用现成电脑试小一点的模型，确认自己真有本地需求。
如果你已经有 1-2 个客户，偶尔要处理合同、访谈、方案，我会优先看“大内存”方案，哪怕吐字慢一点，也先保证能跑起来。
如果你在扩规模，开始稳定处理大量文档或多人共用，我会把“装得下”和“回得快”分开算预算：大模型看容量，小模型和高频问答看速度。咱们不用一步到位，先买对，比买贵更重要。