我们注意到一个很具体的数字：不到 0.05% 的预训练权重被置零，就能让大模型在强化学习、监督微调和策略蒸馏中达到完整微调的效果。这意味着，模型获得新能力未必需要改动大部分参数。

这是什么

研究提出 Deletion Tuning（删除调优）：为 Transformer（处理序列信息的模型结构）门控投影层训练一个二值掩码，用置零替代传统的全量权重更新。完整微调会保存整套新权重，而这种方法生成的掩码小数百至数千倍。

它还试图缓解持续学习中的“遗忘”——模型学会新任务后，旧任务能力随之下降。实验中，删除调优的原任务准确率接近基础模型；完整微调、LoRA（低秩适配）和随机稀疏微调最多下降 5.4 个百分点。

行业怎么看

值得肯定的是，这项结果为降低训练成本、模型存储和更新成本提供了具体路径。如果能在真实业务中复现，企业训练专属模型时，可以少依赖昂贵的全量微调与庞大的检查点文件。

但风险也很明确：目前结论来自论文和特定实验设置，尚不能等同于所有模型、任务与部署环境都有效。权重置零可能破坏模型内部尚未被测试的能力，低于0.05%的改动比例也不代表算力成本同比例下降。论文发布于社区讨论渠道，后续还需要独立复现、更多模型验证以及安全评估。

对普通人的影响

对企业 IT：模型定制可能更轻，训练和版本管理成本有望下降；但企业仍需验证专业能力、事实准确性与安全性，不能仅凭参数改动少就判断模型更可靠。

对个人职场：持续学习正在推动企业把模型逐步改造成更贴近业务的助手，其响应速度、调用成本和更新效率可能改善；短期内，岗位变化仍更多取决于企业如何使用这些能力。

对消费市场：更便宜的训练和部署可能让定制模型进入更多软件与服务，但消费者最终感受到的仍是价格、响应速度与结果质量，而不是权重究竟被删了多少。