Spectra-Global 上周抛出一个数：用 FFT 替换 AdamW，把 8B 到 70B 大模型微调的 VRAM 砍掉近一半，但每步训练慢一点。这是 Reddit 上 r/LocalLLaMA 社区一个未经同行评审（peer review）的开放实验，发帖方主动给出免费 Colab 邀请复现。

这是什么

大模型微调（用特定数据对预训练模型做二次训练）的最大瓶颈是 GPU 显存（VRAM），AdamW 优化器（控制模型如何学习的算法）内部存的大量「梯度状态」会吃掉大量显存。Spectra-Global 的做法是：把这些梯度状态先转成频率域，丢掉低能量的「噪音」再压缩回来。

听起来巧妙，但我们注意到 Reddit 上的资深用户很快指出几个疑问：

  • 没给训练 loss 曲线和收敛速度，只说「显存砍半」。
  • 没和量化（降低精度省显存）、gradient checkpointing（不存中间结果换显存）这些成熟方案做对比。
  • FFT 在信号处理里不新鲜，套到优化器状态上是否真有理论保证，没人验证。

行业怎么看

支持者的逻辑：现有显存压缩方法都各有副作用——量化可能破坏训练、checkpointing 会拖慢速度——频率域压缩如果保留训练方向，确实值得探索。

但反对和保留意见才是主流。r/LocalLLaMA 上的开发者普遍提醒：单点声明不等于结果。发帖方主动给出「免费 Colab + 基线权重」，这既可以理解为开源诚意，也可以理解为还没经过同行评审的自我宣传。

最关键的是被忽视的一点：他们没说训练后的模型效果如何。如果只是显存砍半但模型能力下降，那这方法没有任何商业价值。

对普通人的影响

对企业 IT：如果方法被验证成立，最直接的受益者是那些想用行业数据二次训练大模型、但买不起 A100/H100 的中小公司——消费级显卡能做的事会更多。

对个人职场：现在还轮不到普通员工关心，FFT、AdamW 都是工程师的事。但这件事再次印证一个趋势：AI 训练成本还在快速下降，「算力门槛」持续松动。

对消费市场：间接利好。训练成本下行的方向没变过，未来企业定制 AI 模型的费用只会越来越低——今天花 50 万做的，三年后可能 5 万就够。