Terminal Bench 2.1 和 Deep SWE 1.1 最近对 Kimi Code、Hermes、Pi、Claude Code、Codex 等工具进行了基准测试,核心信号很明确:AI 编程的差距,已经不只在模型回答质量,而在能否稳定完成真实终端任务。

这是什么

Terminal Bench 是面向终端环境的编程任务评测,Deep SWE 则用于考察软件工程任务中的问题定位、修改与验证。所谓 Harness(评测框架),可以理解为模型与命令行、代码仓库、测试工具之间的执行层。

这类测试的意义在于,它不只问模型“会不会写代码”,而是问系统能否在指定目录中调用工具、读取报错、修改文件并完成验证。对 AI 编程产品来说,后者更接近企业实际使用方式。

行业怎么看

我们认为,榜单会让产品竞争从“模型参数和单轮生成”进一步转向“执行可靠性”。一个模型即使代码能力很强,如果缺乏清晰的上下文管理、工具调用和失败重试机制,也可能在真实项目中频繁中断。

但榜单排名不能直接等同于生产表现。Terminal Bench 和 Deep SWE 覆盖的是标准化任务,实际代码库往往更复杂,涉及私有文档、遗留代码和跨系统权限。不同框架的测试配置、工具开放程度也可能影响结果,因此更适合作为能力参考,而不是采购结论。

对普通人的影响

对企业 IT:评估 AI 编程工具时,应把终端执行成功率、权限控制、代码审查和审计记录放在模型演示效果之前。

对个人职场:会使用命令行和版本管理工具的人,更容易把 AI 从问答助手变成可协作的执行伙伴;不会写代码的人也能受益,但需要更严格地检查改动结果。

对消费市场:随着产品把重点从“回答更聪明”转向“任务更完整”,AI 编程工具可能逐步融入开发、测试和运维流程,而不再只是独立聊天窗口。