这是什么
本周一项开源技术演示让 AI 安全圈安静紧张起来:Qwen 原版在 AdvBench、HarmBench 等有害指令测试上的拒答率是 64%–99%,被"去对齐"(abliteration,算法定向剥离模型拒绝行为)后只剩 0%–6%,而它在 MMLU(综合知识测试)和 GSM8K(数学推理测试)上的分数波动不超过 1.3 分。
所谓"去对齐",简单说就是找到模型内部某个"代表拒绝"的方向,把它擦掉。研究者还把模型打包成 FP8 精度(一种压缩算法,让模型更小、运行更快),相当于一份"轻量、几乎裸奔"的版本公开发布。
数字上的反差说明了一件事:模型学到的"道德护栏",可能集中在神经网络某个可被识别并绕开的方向上——而这件事不必以模型整体能力为代价。
行业怎么看
支持方会把它和"Arditi 单向性"研究放一起:AI 的拒绝行为是网络里的独立方向,可以单独剥离。支持者认为这对红队测试(让攻击者模拟恶意使用来找漏洞)很有用——要做防御,先得能问出真正危险的问题。
但反对意见同样值得听。第一,这组数据来自发布者自家卡片,用 OrcaRouter 规则分类器判断"是否拒绝"——它本质只读回答第一句是不是"I cannot",相当于测模型还记不记得"开场白要客气",不等于模型不会输出有害内容。第二,卡片里没有给 KL 散度(衡量两个模型分布差异的指标),这是社区最想看的数,能直接证明"摘得有多干净"。第三方能不能复现,才是真问题。
我们倾向于把这视为"一次漂亮的演示",而非"安全对齐的死刑判决"。但它让一个原本抽象的担忧变得具体:开源模型的护栏,可能比厂商承诺的薄。
对普通人的影响
对企业 IT:如果你们公司正在用 Qwen 或其他开源大模型做内部助手,这个研究是一个提醒——"模型默认安全"是需要自己验证的假设,不是厂家背书。
对个人职场:做内容、客服、合规类工作的人,未来可能注意到某些 AI 工具"突然什么都敢说"——这未必是进步,更可能是护栏被拆过。
对消费市场:开源模型便宜、能力强,但消费者要分辨"哪个 AI 拒答、哪个 AI 来者不拒"——这件事正在变成一个商业信号。