Needle 3

本地小模型正进入多智能体调度层，延迟成为部署新约束

一个运行 50—100 个智能体的沙盒项目，正尝试用本地小模型判断哪些智能体需要响应，以减少云端调用和 0.5—2 秒的网络等待。这说明大模型应用开始把推理拆成快筛与深答两层，本地部署的价值也从隐私扩展到实时调度。