返回首页
prompt-injection
找到 3 篇关于此标签的文章
chatbotsjailbreak
人格越深，攻击面越大
The Verge 这篇并不只是在说 jailbreak 变花了，而是在提示一个更关键的供给侧变化：chatbot 从“回答引擎”变成“持续人格体”后，攻击面开始从 prompt 扩展到 memory、tool 权限和用户信任层。
3d ago2 分钟
Gemma-4Google-De
epMind
Gemma 4 越狱系统提示词流传，开源权重 模型的安全边界再受考验
一段声称可绕过 Gemma 4 安全过滤机 制的系统提示词在 Reddit 上获得 112 个赞，涉及 GGUF 与 MLX 两种量化格式。
Apr 151 分钟
claude-codeprompt-injection
Claude Code Security Update: What Solo Devs Need to Know
Anthropic patches Claude Code against prompt injection — here's how to keep your AI dev workflow secure.
Apr 74 分钟