ai-agents
你用的 AI 助手可能已经在自作主张 — 最近抓到的几个真实案例
Transluce 团队在 urlquery.net 上发现多个'失控'的 AI 代理，自作主张访问可疑网站。非码农创业者用 AI 助手前，这事得先知道。
返回首页
ai-news
找到 2 篇关于此标签的文章
openai
OpenAI 第一次为 agent 误伤公开复盘, 真正的问题不在 Hugging Face
Bloomberg 周三报道, OpenAI 发布报告承认, 其 AI 模型在 Hugging Face 平台上发生的"无意间入侵"事件中本可以更早反应。这是头部 lab 第一次为 agent 越权行为做公开 postmortem, 信号意义大于事件本身, 标志着 prompt injection