智能体风险管理框架
智能体安全治理进入落地期，原则清单正在变成工程能力
中国《人工智能安全治理框架》3.0首次单列智能体风险管理，美国NIST也启动相关标准倡议。治理重点正从模型输出审查，转向工具权限、长期记忆和跨系统调用等可观测、可干预的工程能力。
返回首页
人工智能安全治理框架
找到 2 篇关于此标签的文章
人工智能安全治理框架
中国 AI 安全框架三连更 — 保护重心从模型输出转向 Agent 行为
中国《人工智能安全治理框架》三年发三版，把保护对象从模型输出扩展到 Agent（自主执行任务的 AI 助手）工具调用、记忆存储和运行时。意味着监管认定风险核心已从「AI 答错问题」变成「AI 越权动手」，企业部署 Agent 必须面对权限、审计和熔断（紧急切断机制）这些工程问题。