AInspiro
EN

Cloudflare改AI爬虫规则:9月15日起广告页默认不让你白嫖,还能按价值收费

行业报告
🤖 本文由 AI 生成,内容仅供参考。

Cloudflare出手了:9月15日起,广告页默认不让你家的AI白嫖

7月1日,Cloudflare丢出一枚炸弹——给所有AI公司下了个新死线。从2026年9月15日起,用Cloudflare的新客户、新站点、以及所有免费客户,默认设置会直接屏蔽"混合用途"爬虫去抓带广告的页面。

啥叫混合用途?就是那些又干搜索、又跑agent、又薅训练数据的爬虫(点名了,说的就是某些大厂的Googlebot)。新规则下,它们想抓广告页,得先让站长手动放行。

Cloudflare CEO Matthew Prince的原话:现在互联网上大部分流量已经不是人了,我们得动作更快,才能长出可持续的生态。

站长终于有武器了

这次不是光堵,还给了一套控制面板:

  • Search、Agent、Training三类爬虫拆开管,不再一锅炖
  • 站长能看清到底是哪家AI公司在爬、爬了啥
  • 还能看到这些AI bot到底有没有把流量导回你的站——没导回?直接屏蔽,或者收费

配套的新玩法叫Pay Per Use(按用收费),是之前Pay Per Crawl(按抓收费)的升级版——不只抓的时候收钱,你的内容给AI创造了价值(比如进了回答、进了训练),也能收。首发合作方是Ceramic.ai和You.com。

为什么这是件大事

Cloudflare的数据说,AI爬虫超过50%的抓取流量,花在了重复抓没变的页面上——纯纯的带宽浪费。对站长来说,免费给AI喂内容、自己服务器烧钱、对方还不一定给你带流量,这套交易早就不公平了。

对做内容网站的人(比如咱们这种)来说,这政策直接关系到:你的文章被谁抓、抓去干啥、能不能收钱。9月15日之后新建的站,默认就站你这边了。

Google这边当然不乐意,搬出Google Extended说自己早给了退出训练的选项。但Cloudflare的意思很明确:你搜索流量大,是因为你拿AI训练当附带代价,这账得算清楚。


说白了,免费数据被薅的时代,Cloudflare想替站长画个句号。至于AI公司愿不愿意乖乖付费——9月15日见分晓。