这是什么

本周Reddit技术社区一篇实测长文引发讨论:作者让Strata(基于Qwen3.8模型的AI编程工具)连续跑了12小时自动化编码,结果发现AI在后半程出现「记忆断裂」和「工具幻觉」(AI凭空捏造工具返回的结果)两类典型故障——这暴露了当前AI Agent(能自主执行多步任务的AI)在长任务上的可靠性短板。

具体来说:第一类「记忆断裂」是AI写完一份执行报告后,立刻反问自己「我真的写过这个报告吗?」;第二类更危险——AI把文件路径里的数字读漏了一位,反复尝试这个错误路径,还把锅甩给工具说「你返回了损坏的路径」。

行业怎么看

技术圈普遍承认这是当前AI Agent的通病。OpenAI、Google、Anthropic近半年都在「上下文压缩」「长期记忆」「自我验证」上加投入,但都未根治。支持者认为,Strata在短任务(1-2小时)上表现尚可,问题集中在「连续超长任务」,属工程问题而非原理问题,迭代几版就能修。

反对声音更尖锐:评论区一位资深开发者指出,这恰恰说明当前Agent根本不适合「无人值守的过夜任务」。企业若把它接入生产流水线,必须保留人工抽查环节——否则一个幻觉就可能删错文件、部署错版本。我们倾向后者:可靠性的0.1%瑕疵在生产环境会被放大成100%事故。

对普通人的影响

对企业IT:评估AI编程工具时,「能连续写几小时不出错」比「能不能写」更关键,采购清单上需要新增「长任务稳定性」指标。

对个人职场:把AI当代码助手没问题,当「独立交活的同事」还早——你不能让它跑一晚上活,第二天直接拿结果交差。

对消费市场:未来一两年的AI编程产品宣传会分化,一类主打「快」(短任务提效),另一类主打「稳」(长任务可靠),后者定价可能显著更高。