OpenTelemetry
同样一次 AI 调用，成本可能差 30 倍 — 传统软件监控正在集体失明
AI 应用有一类新型故障：返回半句话却显示成功、相同请求账单差 30 倍。OpenTelemetry GenAI 规范正在成为行业统一答案，但能否落地取决于厂商博弈。
返回首页
Datadog
找到 3 篇关于此标签的文章
Agent
Agent 上线之后：数十万 Token 月账，没人说得清花在哪儿
Agent 跑起来之后，运维成了真正的难题。一次任务慢 15 秒找不到瓶颈？月度账单多了几十万 Token 分不清谁在刷？我们解析为什么可观测性正在成为企业 Agent 系统的水电煤。
LLM
调用量从千次涨到十万次后，AI 应用先卡住的往往不是模型而是限流
当日调用量从 1000 涨到 10 万、429 报错率从 0.1% 升到 8%，这篇工程实战提醒我们：大模型应用真正先出问题的，常常不是模型能力，而是流量治理、配额分配和排队机制。