跳转到内容
本站为社区维护的非官方中文翻译,与 Cloudflare, Inc. 无关联。本站不提供账户登录,请勿在任何非官方站点输入您的 Cloudflare 账户信息。官方文档:developers.cloudflare.com

速率限制

最后更新 查看 MarkdownAgent 设置

速率限制控制到达应用的流量,防止昂贵账单和可疑活动。

参数

你可以将速率限制定义为在特定时间范围内发送的请求数量。例如,你可以将应用限制为每 60 秒 100 个请求。

你还可以选择使用 固定窗口 或 滑动窗口 限速。限速会在一个时间窗口内允许一定数量的请求。例如,固定窗口按固定时段计数,因此十分钟的窗口内不会超过 x 个请求。滑动窗口则保证过去十分钟内的请求数不会超过 x。

举例说明,假设你设置了每十分钟十个请求的限制,从 12:00 开始。固定窗口为 12:00-12:10、12:10-12:20,依此类推。如果你在 12:09 发送十个请求,在 12:11 发送十个请求,在固定窗口策略下所有 20 个请求都会成功。但在滑动窗口策略下会失败,因为最后十分钟内超过十个请求。

处理速率限制

当请求超过允许速率时,你将遇到速率限制。这意味着服务器将以 429 Too Many Requests 状态码响应,你的请求不会被处理。

默认配置

要在仪表板中设置默认速率限制配置:

  1. 登录 Cloudflare 仪表板 ↗并选择你的账户。
  2. 前往 AI > AI Gateway。
  3. 前往 Settings(设置)。
  4. 启用 Rate-limiting(速率限制)。
  5. 根据需要调整速率、时间段和速率限制方法。

要使用 API 设置默认速率限制配置:

  1. 创建 API 令牌,并授予以下权限:
  • AI Gateway - Read
  • AI Gateway - Edit
  1. 获取你的 Account ID。
  2. 使用该 API 令牌和 Account ID,发送 POST 请求 创建新 Gateway,并包含 rate_limiting_interval、rate_limiting_limit 和 rate_limiting_technique 的值。

此速率限制行为将统一应用于该 gateway 的所有请求。

这篇文档对您有帮助吗?