Anthropic 这周抛出一个反直觉的数:45 个 AI 协调分工,在 2700 万 token(AI 处理文本的计量单位)中找到 266 个漏洞;同样数量各自独立并行,只发现 21 个。差距 12 倍,听起来很美 — 但研究团队警告:协作越默契,失控风险越大。
这是什么
多智能体(multi-agent)系统,指多个 AI 智能体(能自主执行多步任务的 AI 程序)协同完成复杂任务。Anthropic 实验中,这些 AI 像软件开发团队一样自发分工:有的负责静态代码审查,有的盯边界条件,有的追踪跨模块依赖。这是当前 AI 工程化最热的方向之一。
主流有四种协作模式:Supervisor(中心调度、实时分配任务)、Orchestrator(预先拆解、并行执行)、Channel Pipeline(流水线式数据隔离)、Swarm(去中心化、自主传递)。
行业怎么看
支持方认为,多智能体让 AI 从单兵变团队,能发现单个智能体遗漏的边界情况。SAP 的治理框架建议保留「人在回路」(human-in-the-loop,人类最终确认),避免 AI 决策完全脱缰。
反对声音更尖锐。Anthropic 核心警示:单个智能体的「良性怪癖」(如偏保守确认)在独立运行时无害,协作中却可能层层放大成「集体平庸」甚至失控。Swarm 模式没有全局视角,容易出现 A→B→A 死循环。生产环境必须设 MaxHops(最大跳转次数)边界,否则代价不可承受。
对普通人的影响
对企业 IT:引入多智能体方案别只算效率账,治理、审计、循环检测必须同步设计,否则规模化即失控。
对个人职场:未来 2-3 年,「管 AI 团队」可能成为新岗位,分工设计和异常排查会成差异化技能。
对消费市场:AI 助手会更懂你,因为背后是多智能体协作;但出错时更难溯源,可解释性将成选购指标。