一篇拆解大模型后训练的教程给出了一条清晰路径:用几千到几百万条问答样本,就能把只会续写的基座模型改造成会对话的模型。值得注意的是,模型能力上限越来越受数据质量而非参数规模影响。
这是什么
监督微调(Supervised Fine-Tuning,SFT)是给模型看大量“指令—回答”样本,让它学会按要求作答并及时结束。训练目标与预训练相同,区别在于数据和损失计算:只对回答部分计算误差,提示部分被屏蔽。
常见数据格式有两种:Alpaca 用于单轮指令,ShareGPT 用于多轮对话。训练和推理时还必须使用一致的聊天模板,否则模型会遇到自己没见过的格式。
低秩适配(Low-Rank Adaptation,LoRA)通过训练少量附加参数完成微调,通常不必更新整个模型,因此显存和存储成本更低,适合预算有限或需要快速调整模型的团队。
行业怎么看
我们认为,SFT 正在把模型竞争从“谁的底座更大”拉向“谁能把业务经验写进数据”。指令数据人工标注质量最高,但百万级样本可能带来数百万元预算;Self-Instruct 自动生成数据成本低得多,例如 Alpaca 的 5.2 万条样本曾以数百美元 API 费用完成。蒸馏强模型同样高效,但会继承教师模型的偏差与表达习惯。
风险也很明确:低成本生成的数据可能放大错误,错误回答一旦成为训练目标,模型会稳定地重复它。LoRA 也并非免费午餐,特定业务数据有限或分布变化时,效果仍会受限。数据格式错误、模板不一致、样本覆盖不足,都可能让微调后的模型表现不如原模型,因此上线前必须用真实业务任务持续评测。
对普通人的影响
对企业 IT:过去购买模型主要看参数和榜单,如今私有数据、标注流程与评测体系更直接决定投入回报。LoRA 降低了试错门槛,但数据治理仍是主要成本。
对个人职场:企业会更容易部署符合内部制度的助手,处理客服、文档和流程任务。专业知识与真实工作经验整理成高质量样本的人,会更有竞争力。
对消费市场:经过微调的对话模型将更少答非所问、更少自问自答。与此同时,来源不明的训练数据也可能放大偏见、泄露隐私,平台仍需说明数据使用边界。