这是什么

Cloudflare 这周做了两件事:给 AI Agent 装上搜索接口(让它先搜再读,不再瞎猜 URL 拿到 404),顺手把爬虫(自动抓取网页的程序)规矩立了。

具体功能:Web Search API 接入 Cloudflare 的 AI Gateway(AI 模型调用的统一网关),开发者一个调用就能让 Agent 像人用搜索引擎那样先搜再读,拿到的还是结构化的实时片段。首批合作方是 Exa、Linkup、Ceramic.ai 三家。

但表面背后还有一手:合作方必须遵守 Cloudflare 的 "Verified Bots"(已验证爬虫)规范,包括透明标识、尊重 robots.txt、必须返回原文链接。Cloudflare 同时是全球最大的 CDN(网站分发网络)之一——既做"路"又立"交通规则"。

行业怎么看

支持方认为这是必要的规范。AI 爬虫过去一年泛滥成灾,OpenAI、Google、Anthropic 抓数据各干各的,网站主投诉不断。Cloudflare 的标准如果被广泛接受,对保护原创内容是件好事。

我们注意到,反对意见也很直接。一种观点认为 Cloudflare 既做 CDN 又立爬虫规矩,等于既当裁判又当运动员——你的内容要走我的网分发,你的爬虫要守我的规,长期看会不会变成新的"过路费"?另一种提醒是:Agent 接入标准已经在碎片化(OpenAI 的 Function Calling、Anthropic 的 MCP),Cloudflare 再加一层搜索接口,企业 IT 集成的复杂度只会继续上升。

对普通人的影响

对企业 IT:搜索接口标准化是大势所趋,但接入往往绑定 Cloudflare 平台,迁移成本要提前想清楚。

对个人职场:用 AI 查实时信息(新闻、股价、产品文档更新)会更靠谱,少被 404 或过时答案坑。

对消费市场:传统搜索引擎(Google、百度)的护城河可能松动——"AI 找信息"和"人找信息"正在走两条不同的路。