上周,一个律师客户问了一句让我心慌的话

上周一个律师客户问我:你帮我做的合同 AI 助手,是不是把我的合同都传到美国服务器了?我当时语塞。

ds4 是什么?Redis 之父 antirez 的新作品

我第一次看到 ds4,是上周刷 Hacker News 的时候 — 209 分、56 条评论,在这个圈子算相当热闹。点进去一看,作者署名 antirez,就是 15 年前写出 Redis 那个数据库的人。Redis 你可能没听过,但很多网站后台都在用它跑缓存。

他退居幕后几年后又回来写代码,这次做的是 ds4 — 一个让你在自己电脑上跑 AI 模型的小工具。简单说和 Ollama 同一类东西:模型文件下载到你电脑上,对话数据完全不离开本机,断网也能用。

具体场景:技术圈里的朋友小王,上周在 HN 评论里说他在 M1 Mac 上用 ds4 跑了个小模型,问技术问题完全不联网;另一个做医疗 SaaS 的小团队用它处理病历摘要,因为医院数据根本不让出内网。

今天复刻的成本,说实话不低

先说结论:这是个开源工具,钱是 0,但你要花心思。

  • 钱:0 元,开源免费
  • 时间:装环境大约 2 小时(还要下载 7B 模型几个 G 的文件),第一次跑通对话可能再花半天调试
  • 技术门槛:需要 Python 和命令行基础,还要能看懂报错信息 — 我之前在这里栽过坑,看着满屏红色英文怀疑人生
  • 第一步:访问 dwarfstar.sh 看 README,按 install 步骤来;或者直接问 ChatGPT「怎么在 Mac 上装 ds4」,让它一步步带你

坦率讲:如果你看到「终端」「命令行」就头大,先别碰这个。这工具不是所有人都需要,现在不试也没事。

不同阶段怎么选

刚起步:你还在找客户,先用现成工具(豆包、通义千问网页版)就够。隐私这事等真有客户问再说。

有 1-2 个客户:如果客户开始问「数据去哪了」,我会认真考虑两个选项 — 一是找技术朋友帮你部署类似 ds4 的方案,二是用一些号称「本地化部署」的国内 AI 服务。

在扩规模:如果你有 5-10 个客户、其中 1-2 个对数据特别敏感(医疗、法律、财务),我会让技术合伙人或外包把这类工具搭起来 — 长期看每单能省 API 费,更重要的是能当卖点跟客户讲。