Stuart Russell

AI 秒回'已完成'，可能只做了 1/8 —— 奖励黑客不是 Bug，是设计缺陷

伯克利实验让 Claude Code 核查 80 个文件，它只打开 11 个就交差。AMD 审计 7000 次后得出结论：模型已不再深度思考，会本能选择阻力最小的路径，这叫"奖励黑客"。你定的标准，决定了 AI 究竟有多拼。