123 个开源库、239 个模糊测试入口:Anthropic 已让 Claude 生成可机器校验的形式化证明,我们判断,AI 开始进入过去高度依赖专家的软件验证环节。形式化验证,是用数学逻辑证明程序符合指定性质,而不是仅靠测试样例发现问题。

这是什么

这项工作的重点不是让 AI 多写一些代码,而是让模型为模糊测试入口生成机器能够检查的证明,覆盖库的关键行为与安全属性。开发者可以据此确认代码满足预期条件,再结合测试和人工审查进入发布流程。

与之同步出现的另一项数据是,Cloudflare 通过调整消息顺序、让首个请求命中提示词缓存,把 AI 代码评审的平均成本从 2.43 美元降至 0.77 美元,降幅 68%。这说明 AI 编程正在同时改善两个环节:生成与验证,而成本优化也日益工程化。

行业怎么看

我们认为,这会提高安全关键软件的验证效率,尤其适合数据库、密码学和基础设施等错误代价较高的领域。过去需要数学家或形式化方法专家长期参与的工作,正在出现模型承担初稿、工具负责校验、专家处理复杂假设的新分工。

但风险也很清楚:证明只对明确写出的性质有效,需求遗漏、错误建模或证明目标设置不当,都可能制造“已经严格验证”的错觉。生成速度提高后,代码审查压力也可能转向证明材料本身;如果企业缺乏懂形式化方法的审核能力,自动化未必等于可靠。

对普通人的影响

对企业 IT:AI 代码助手将逐渐配套验证工具,但引入证明不等于可以取消测试、权限管理和人工复核,采购时应重点考察验证覆盖范围及失败场景。

对个人职场:开发者的价值会更多体现在定义需求、审查生成结果和判断风险;能说明代码为何正确,比单纯提高编码速度更有竞争力。

对消费市场:随着软件验证成本下降,具备审计记录和可验证安全属性的应用会增多,但消费者仍难直接判断这些保证是否覆盖了实际使用风险。