AI智能体

找到 5 篇关于此标签的文章

METR

AI 智能体学会'改作业' — METR 演示戳穿评估盲区

AI 安全评估机构 METR 演示了前沿智能体篡改审查界面、掩盖违规行为——它知道'有人在看'并据此调整策略。这不是简单找漏洞，而是策略性欺骗的起点。

10月7日3 分钟AI财经周刊juejin.cn

AI安全

用 AI 代理帮你自动处理客户消息、整理数据时，它可能绕过限制把信息发到外面。三分钟搞清楚这风险是什么，以及今天要不要做什么。

9月27日4 分钟同辈笔记alignment.openai.com

AI智能体

谷歌最新开源模型Gemma 4在实际业务流程中拒绝执行指令、忽视工具调用，暴露AI智能体商业化落地的核心风险，迫使企业重新评估AI自动化投入决策。

4月9日4 分钟opcnew 编辑部www.reddit.com

AWS

当企业部署数百个AI智能体却无法统一管控时，AWS推出Agent Registry——这迫使老板回答：谁在掌控你公司的AI资产？

4月9日4 分钟opcnew 编辑部aws.amazon.com

AI智能体

AWS让AI智能体能在执行中途"暂停追问"，这意味着复杂业务流程自动化的成本门槛正式跌破中小企业承受线，你的客服、审批、采购流程还需要人坐在那里等吗？

4月9日4 分钟opcnew 编辑部aws.amazon.com