本周,一个名为 Felony Bench 的地下 AI 服务站进入安全研究者的视野。判断很直接:当 AI 滥用开始按"任务菜单"标价、按时交付,它就从技术问题变成了产品问题——而产品问题永远比技术问题更难处理。

这是什么

Felony Bench 的卖点很直白:把主流大模型的安全护栏(防止 AI 输出危险内容的内置限制)拆掉,按任务分类陈列——写钓鱼邮件、伪造证件话术、构造诈骗剧本,标价清晰、交付明确。

从技术上看,它本身没训练新模型,而是把开源大模型(任何人都能下载使用的公开模型)做"去对齐"(去掉安全限制)改造,再套上电商式界面。整套东西的搭建门槛并不高。

行业怎么看

支持方认为,这种"灰色市场"是 AI 治理的现实压力测试:它揭示了开源模型一旦放出就难以收回,倒逼监管和企业重新思考发布策略。

但批评意见更尖锐。网络安全研究者指出,Felony Bench 的易用性意味着诈骗门槛被大幅拉低:一个完全不懂代码的人,现在也能在几分钟内生成针对特定受害者的定制化钓鱼内容。OpenAI、Anthropic 等公司在模型护栏上投入巨大,但在这种站点面前形同虚设。还有声音担忧,事件可能让监管走向"封禁开源"的极端方向,伤害正常开发者生态。

对普通人的影响

对企业 IT:邮件钓鱼、深度伪造(用 AI 模拟他人声音或视频)的攻击成本继续下降,企业邮件网关和员工反诈培训需要升级。

对个人职场:白领群体本身不是直接目标,但被冒充 CEO 财务诈骗的案例在增多;财务、采购岗位尤其要警惕"看起来很真"的 AI 伪造指令。

对消费市场:消费者会越来越多地遇到 AI 生成的虚假客服、伪造的明星代言、合成视频骗局,对"眼见为实"的信任正在被侵蚀。