我也卡过:客户数据上传那一刻,我才意识到问题
这种问题,不是“会不会”,是“什么时候”。
我做小红书咨询,副业会接法律合同审核。合同里经常有姓名、身份证号、银行卡、案件细节——之前我毫不犹豫就贴给 ChatGPT 问“这个条款风险大不大”。
直到上个月和老周喝酒。他是离婚律师,自己接单。晚上 11 点他说,前几天把一份涉及上市公司股权的离婚协议喂给某 AI 助手,第二天对方律师就打电话来“聊聊”。真假没核实,但从那天起,我把所有客户合同都从云端 AI 里撤了出来。
咱们做副业最怕的,不是 AI 答错,是“你不知道数据去了哪儿”。
本地跑 AI 是啥?我在老周的办公室搞明白了
简单说:把 AI 装在你自己的电脑上,数据不出门,断网也能用。
我看到一个老外写的文章(标题 “AI At Home: A Box Of Scraps”),用一堆旧硬件攒了一台能跑大模型的“家庭 AI 盒子”。听着像极客玩具,思路其实很适合咱们——
谁已经在用?
- 离婚律师老周:协议、合同丢进本地 AI,数据不出办公室
- 自由翻译林姐:客户原稿涉密,本地 AI 帮她润色
- 小红书陪跑阿杰:跑选题、生成文案,不烧云端 token(按字数收费的小单位)
这几个人不是码农,但愿意花一个周末学一学。
复刻成本:钱、时间、门槛、第一步
钱:0 - 3000 元
- 极简:电脑装一个叫 Ollama 的免费小工具,下载 qwen2.5 中文模型,0 元
- 进阶:花 1500-2000 元买张英伟达(NVIDIA)二手显卡,跑得更流畅
- 玩家:攒一台专门跑 AI 的小电脑,1000-3000 元搞定
时间:首次 2-4 小时,之后 0
我第一次折腾大概 3 小时,主要是下载模型等了 1 小时。第二次就半小时。
门槛:会装软件、能看懂英文报错就行
- 不需要懂代码
- 英文报错看不懂?装个翻译插件,鼠标一划就翻
- 我之前犯过这错:模型下到一半断网,以为坏了,重下两遍——其实等就行
第一步(最关键):
- 浏览器打开 ollama.com 下载安装(苹果装 Mac 版,Windows 装 Win 版)
- 找“终端”:苹果按 Command+空格输入 Terminal,Windows 开始菜单搜 PowerShell
- 把
ollama run qwen2.5粘进去回车 - 等下载(约 3-5 GB,10 分钟左右),完事直接能用
三类同行,玩法不一样
如果你刚起步(没客户 / 月入 5000 以下):我会建议你先别折腾。钱花在客户身上更划算。现在不试也没事,等你第一个合同来了再考虑。
如果你有 1-2 个稳定客户:我会建议你现在就装个 Ollama,下个中文模型,就为“客户合同不上第三方”这一件事。零成本半天搞定,客户问到隐私能拍胸脯。
如果你在扩规模(团队 3 人+、客户 10+):我会建议你算账:每月 AI 订阅 × 人数 × 12 月。如果超 5000 元/年,可以买台二手显卡机器,半年回本。客户问“数据安全”时你能拿方案——这是竞争力。
最后一句:本地跑 AI 不是万能解药,它解决不了你不会写文案、不会谈客户的问题。它只是让你用 AI 的时候,能睡个安稳觉。