这是什么

本周,AI 开源社区 r/LocalLLaMA 上一个标题只有两个词「and here we are」（我们到了）的帖子被顶上首页。发帖人没解释更多,但社区心领神会——经过 Llama 3、Qwen 2.5、DeepSeek V3 等几代开源模型的迭代,在自己电脑或服务器上（本地）跑一个能用的大模型,这件事终于从极客实验变成了日常工作流的一部分。我们注意到,Qwen 2.5 72B（720 亿参数的模型）在多项基准测试（标准化能力打分）上已经接近 GPT-4 级别,而 Ollama、LM Studio 等一键运行工具让非程序员也能十几分钟跑起来。

行业怎么看

开源阵营的乐观者认为,这是 AI 民主化的关键节点——医疗、法律、教育等数据敏感行业终于可以在不把数据交给外部 API 的前提下用上大模型。但反对意见同样尖锐:本地硬件门槛（GPU 动辄数万元）把「民主化」做成了「有钱人的民主化」;推理速度（AI 思考并生成回答的速度）比云端 API 慢得多,小团队可能等不起;模型版本碎片化（不同人跑不同版本,结果对不上）,企业级部署卡在运维而非模型本身。消费端这边,Apple Intelligence 全部本地化、华为盘古大模型端侧部署,大厂用脚投票——但真正跑通的企业级本地化案例,目前公开的仍然不多。

对普通人的影响

对中小企业 IT: 数据合规需求强的行业——金融、医疗、政务——开始有了不把数据交给云服务商的备选方案,采购清单可能从「租用谁的 API」变成「买多少张 GPU」。

对个人职场: 编程、写作、数据分析等知识工作者开始出现「本地优先」的工作流,断网也能用 AI,出差或客户现场演示少了「网络不好」的尴尬。

对消费市场: 端侧 AI（直接在手机、电脑上运行的 AI）将成为 2025 年手机厂商的卖点,但别指望手机跑出来的效果和云端一样,体验上还要再等 1-2 代。