这是什么
Cloudflare 这周公开了一个让云安全圈沉默的事实:他们试过让单个 AI Agent 独立处理安全警报,结果撞上三个具体问题——AI 会凭空编造证据(业内叫"幻觉")、查询范围容易越界、超时失败会被悄悄掩盖成"没找到"。
最终的解法是多 Agent 架构加上硬编码边界。Cloudflare 的 Managed Defense 服务现在让多个 AI 模型分工协作:调用 OpenAI 和 Anthropic 的模型做深度分析,用自研的 Clef 模型做初筛与打分。证据收集和权限边界从模型提示词里搬到了应用代码层,由程序而不是模型来判断"该不该查、能查什么"。
行业怎么看
支持者认为 Cloudflare 这次公开"踩坑"是行业进步。太多厂商还在演示单 Agent 多智能,结果一上线就崩。多 Agent 协作加硬约束,是目前最务实的工程路径。
但质疑同样尖锐。一位红队工程师私下对我们说:"把 SOC(安全运营中心)的命脉交给大模型,我不知道该叫创新还是鲁莽。"核心担忧有两个:第一,安全场景对错误零容忍,一个被掩盖的"没找到"和"没去查"分不清,可能导致真实攻击被放行;第二,多 Agent 协作意味着提示词注入攻击(通过恶意输入操纵 AI 行为)的攻击面成倍扩大——攻击者只需让一个 Agent 输出错误结论,整条链路都会跟着出错。
对普通人的影响
对传统企业 IT:安全运营的人力成本可能下降,但需要补强"AI 审计"和"权限边界"两类工程能力,这两项是很多公司目前的空白。
对个人职场:网络安全分析师的工作重心会从"查警报"转向"训练和监督 Agent",纯执行岗的需求大概率收缩。
对消费市场:云安全服务的涨价空间被压缩,因为自动化降低了边际成本;但中小企业的整体防护水平会随 AI 普及被抬升。