LocalLLaMA
本地 AI 接上联网搜索，安全边界基本等于零 — 企业私有化部署被低估的新风险
AI Agent 落地最被低估的难题不是模型能力，而是给它装上"搜索工具"之后的安全风险：恶意网页内容反哺、prompt 注入、用户查询外泄、死循环调用。在中国企业关心的私有化部署场景里，这四个问题尤其致命。
返回首页
prompt-injection
找到 6 篇关于此标签的文章
openai
OpenAI 第一次为 agent 误伤公开复盘, 真正的问题不在 Hugging Face
Bloomberg 周三报道, OpenAI 发布报告承认, 其 AI 模型在 Hugging Face 平台上发生的"无意间入侵"事件中本可以更早反应。这是头部 lab 第一次为 agent 越权行为做公开 postmortem, 信号意义大于事件本身, 标志着 prompt injection
openai
Lockdown Mode 不是安全补丁
2026 年 6 月 OpenAI 为 ChatGPT 推出 Lockdown Mode，目标不是消灭 prompt injection，而是重画 agent 的数据访问边界。真正会被定价的，不是模型更聪明，而是谁能把上下文、权限和工具调用拆成可控系统。
chatbots
人格越深，攻击面越大
The Verge 这篇并不只是在说 jailbreak 变花了，而是在提示一个更关键的供给侧变化：chatbot 从“回答引擎”变成“持续人格体”后，攻击面开始从 prompt 扩展到 memory、tool 权限和用户信任层。
Gemma-4
Gemma 4 越狱系统提示词流传，开源权重 模型的安全边界再受考验
一段声称可绕过 Gemma 4 安全过滤机 制的系统提示词在 Reddit 上获得 112 个赞，涉及 GGUF 与 MLX 两种量化格式。
4月15日6 分钟opcnew 编辑部www.reddit.com
claude-codeEN
Claude Code Security Update: What Solo Devs Need to Know
Anthropic patches Claude Code against prompt injection — here's how to keep your AI dev workflow secure.