6 月 17 日,一篇题为《The Future of the Con Is Already Here》的博文在开发者社区 Lobsters 引发讨论,我们的判断很明确:AI 眼下最现实的影响之一,不是替所有人工作,而是把“伪造得足够像真”这件事做得更便宜了。

这是什么

这篇文章的核心不是技术评测,而是一个社会判断:当生成式 AI 能批量写邮件、伪造对话、整理公开信息并模仿语气,骗局的门槛会显著下降。过去很多欺骗行为受限于时间、人力和表达能力,现在这些约束被削弱了。

换句话说,AI 先带来的不只是效率红利,还有“可信内容供给过剩”。当文字、图片、语音都能被低成本生成,普通人面对的信息不再默认可靠,真正稀缺的会变成验证机制。

行业怎么看

行业里有两种典型看法。乐观者认为,这更像老问题的新工具:垃圾邮件、钓鱼网站、电话诈骗本来就存在,AI 只是把流程自动化,防御技术也会同步升级,比如更强的身份验证、异常检测和内容溯源。

但值得我们关心的是,反对意见并不弱:第一,防守往往比进攻更贵。攻击者只要少量成功就能回本,企业和平台却要为每一次误判付出成本。第二,很多防御依赖平台协同,而现实中的邮件、社交媒体、即时通讯并不在同一套规则下。第三,过度依赖“AI 识别 AI”也有风险,误杀正常内容会抬高沟通成本。

因此,这件事不该被理解成“AI 让诈骗出现”,而是“AI 改变了信任的经济学”:验证一个人、一次交易、一段内容,都会变得更耗资源。

对普通人的影响

对企业 IT: 重点会从“是否接入大模型”转向“如何做身份校验、权限管理和审计留痕”。很多公司未来新增的不是模型预算,而是风控和治理预算。

对个人职场: 白领会更频繁接触“看起来非常专业”的邮件、简历、报告和会议邀约。判断力的重要性会上升,尤其是核实来源、确认上下文、避免被高质量伪装牵着走。

对消费市场: 消费者会看到更多自动生成的客服、推荐和营销内容,便利性提高,但“真假难辨”的疲劳感也会增强。长期看,愿意为可信平台和真实服务付费的人可能会变多。