企业 AI 安全讨论正在从“模型会不会被绕过”，转向“人会不会被 AI 说服”。我们注意到，这类风险不是靠单一安全产品就能解决，而是同时考验身份管理、权限控制和员工判断。

这是什么

社会工程，是通过伪装身份、制造紧迫感或借助他人信任，诱使人交出密码、文件或系统权限。如今，生成式 AI 可以生成逼真的邮件、语音和对话，再结合公开信息提高诈骗成功率。AI 本身未必拥有更强攻击力，但降低了实施社会工程攻击的门槛。

这也意味着，单纯过滤恶意提示无法消除风险。只要请求来自可信同事、伪装成正常业务流程，攻击者仍可能绕过防线。较完整的方案应把多因素认证、最小权限、异常行为监测和员工培训放在一起，而不是把安全责任交给某个聊天机器人。

行业怎么看

我们的判断是，AI 安全预算会从“保护模型”更多流向“保护身份与流程”。企业会加强邮件与语音核验、敏感操作审批、特权账户管理，以及对高风险请求的人工复核；因为一旦 AI 能代表员工执行任务，权限失控比内容出错更难追溯。

风险也很明确。企业可能过度依赖自动化检测，而忽略最关键的一环——人仍会在压力、权威和截止日期面前犯错。社会工程没有因为 AI 出现而消失，只是包装得更可信。此外，监控员工通信若缺少明确边界，也可能造成隐私与劳动管理问题；把责任全部推给员工培训，同样是在回避系统设计缺陷。

对普通人的影响

对企业 IT：安全团队需要重新梳理账号、权限和审批流程，尤其检查 AI 代理是否被授予了过大的文件、邮件或付款权限，并保留可审计记录。

对个人职场：员工会更频繁地遇到合成语音、定制邮件和仿冒同事请求。涉及转账、密码、密钥和客户资料的指令，不应只看语气是否自然，还应通过独立渠道复核。

对消费市场：诈骗内容将更逼真、更多样，服务商可能加强通话与交易风控；同时，身份验证、隐私保护及 AI 标识规则，也可能成为平台和数字产品的新信任卖点。