OpenAI
一条 Bash 命令让大模型动手执行 — Agent 的能力边界也是风险边界
一条自然语言指令如何让大模型生成终端调用?我们注意到,真正执行命令的不是模型,而是获得权限的 Agent 运行时;这也意味着,文档、网页与搜索结果中的恶意指令可能被工具系统误读,安全边界必须由权限和审批机制兜底。
找到 1 篇关于此标签的文章
一条自然语言指令如何让大模型生成终端调用?我们注意到,真正执行命令的不是模型,而是获得权限的 Agent 运行时;这也意味着,文档、网页与搜索结果中的恶意指令可能被工具系统误读,安全边界必须由权限和审批机制兜底。