跳转到内容
搜索文档

AI Crawl Control

最后更新 查看 MarkdownAgent 设置
Available on all plans

监控并控制 AI 服务如何访问您的网站内容。

AI 公司使用网页内容来训练他们的模型并为 AI 应用程序提供支持。AI Crawl Control(前称 AI Audit)让您能够清楚地了解哪些 AI 服务正在访问您的内容,并提供工具来根据您的偏好管理访问。

使用 AI Crawl Control,您可以:

  • 了解哪些 AI 服务在访问您的内容 - 监控仪表板以查看爬虫活动和请求模式
  • 通过细粒度策略控制访问 - 为单个爬虫设置允许或阻止规则
  • 监控 robots.txt 合规性 - 跟踪哪些爬虫遵守了您的指令并创建强制执行规则
  • 探索变现选项 - 为内容访问设置单次爬网付费 (Pay Per Crawl) 定价 (私有测试版)
  • 零配置部署 - 在所有 Cloudflare 计划上自动运行
快速入门

功能

管理 AI 爬虫

控制 AI 爬虫如何与您的域名进行交互。

分析 AI 流量

深入了解 AI 爬虫如何与您的网页进行交互。

跟踪 robots.txt

跟踪 robots.txt 文件的健康状况,并识别哪些爬虫违反了您的指令。

单次爬网付费 (Pay Per Crawl)

允许 AI 爬虫通过单次爬网付费来访问内容。


使用场景

发布商和内容创作者

发布商和内容创作者可以监控哪些 AI 爬虫正在访问他们的文章和教育内容。设置策略以允许有益的爬虫,同时阻止其他爬虫。

电子商务和商业网站

电子商务和商业网站可以识别 AI 爬虫在产品页面和商业信息上的活动。控制对敏感数据(如价格和库存)的访问。

文档网站

文档网站可以跟踪 AI 爬虫如何访问他们的技术文档。深入了解 AI 爬虫如何与您的网站进行互动。


相关产品

Bots

识别并缓解自动化流量,以保护您的域名免受恶意 Bot 的侵害。

Web Application Firewall

获得针对脆弱性的自动保护,并能灵活地创建自定义规则。

Analytics

查看并分析您域名上的流量。

这篇文档对您有帮助吗?