本周 Reddit 上一个帖子引起我们注意:一位自学者用云端 AI 学完了量子力学和狭义相对论,正在啃广义相对论,但 token 费用(按调用量计费,提问越多越贵)让他想换本地模型(在自己电脑或服务器上运行的开源大模型,免调用费),结果试了 Qwen 和 Ministral 的小参数版本,推理质量「撑不住」。
这是什么
发帖人不是开发者,是一位有计算机科学和数学背景、自学物理的爱好者。他的学习流程是:读教材 → 不懂的地方打开大模型追问 → 让 AI 给出形式化推导。这套流程在入门级量子力学和狭义相对论阶段运转良好,但到了广义相对论(涉及弯曲时空与张量分析的复杂数学),他对模型的推理深度要求明显提高——云端的 GPT、Claude 能讲清楚,本地的小模型讲不清楚。
他不是个案。我们注意到,越来越多的「用 AI 自学」用户撞上了同一堵墙:入门知识本地够用,进阶知识仍需云端。问题不是 token 贵不贵,是本地模型的「智商天花板」够不够。
行业怎么看
本地派会告诉你:DeepSeek-R1 蒸馏版(用大模型推理能力训练出来的小模型)和 Qwen 的推理模型本地跑已经很强,14B(140 亿参数)以上效果接近云端入门档。
但反对意见同样真实:硬核科学推理需要的不是「能跑」,是「能想」。小参数模型在多步形式化推导、假设检验上仍然掉链子——尤其当用户会追问、会验证,AI 一旦在第三步出错,整条学习链路就崩了。云端的算力与参数规模优势,目前还不是开源社区能轻易追平的。
另一个被低估的判断是:自学者愿意为「能讲明白广义相对论」的 AI 付费。免费本地模型不是所有人的答案——这反过来印证了高质量 AI 知识服务在消费端的真实需求。
对普通人的影响
对企业 IT:本地化部署对数据合规友好,但涉及复杂推理任务时,混合架构(本地跑基础任务+云端跑硬任务)短期内仍是务实选择,别被「全栈本地」的厂商话术带跑偏。
对个人职场:把 AI 当学习工具是 2026 年最实在的应用之一,但请意识到——入门知识零成本,进阶知识仍然要钱,这笔账得提前算清楚。
对消费市场:愿意为高质量 AI 知识服务付费的人,比我们想象的多。做教育、做知识付费的产品,能力上限比价格战更值得卷。