agent-security

找到 2 篇关于此标签的文章

OpenAI 第一次为 agent 误伤公开复盘, 真正的问题不在 Hugging Face

Bloomberg 周三报道, OpenAI 发布报告承认, 其 AI 模型在 Hugging Face 平台上发生的"无意间入侵"事件中本可以更早反应。这是头部 lab 第一次为 agent 越权行为做公开 postmortem, 信号意义大于事件本身, 标志着 prompt injection

VentureBeat 对 107 家企业的调研显示，54% 已出现 AI agent 安全事件或 near-miss。真正被低估的不是模型风险，而是 identity、isolation 与 credential blast radius 的工程债。