速率限制控制到达应用的流量,防止昂贵账单和可疑活动。
你可以将速率限制定义为在特定时间范围内发送的请求数量。例如,你可以将应用限制为每 60 秒 100 个请求。
你还可以选择使用 固定窗口 或 滑动窗口 限速。限速会在一个时间窗口内允许一定数量的请求。例如,固定窗口按固定时段计数,因此十分钟的窗口内不会超过 x 个请求。滑动窗口则保证过去十分钟内的请求数不会超过 x。
举例说明,假设你设置了每十分钟十个请求的限制,从 12:00 开始。固定窗口为 12:00-12:10、12:10-12:20,依此类推。如果你在 12:09 发送十个请求,在 12:11 发送十个请求,在固定窗口策略下所有 20 个请求都会成功。但在滑动窗口策略下会失败,因为最后十分钟内超过十个请求。
当请求超过允许速率时,你将遇到速率限制。这意味着服务器将以 429 Too Many Requests 状态码响应,你的请求不会被处理。
要在仪表板中设置默认速率限制配置:
- 登录 Cloudflare 仪表板 ↗并选择你的账户。
- 前往 AI > AI Gateway。
- 前往 Settings(设置)。
- 启用 Rate-limiting(速率限制)。
- 根据需要调整速率、时间段和速率限制方法。
要使用 API 设置默认速率限制配置:
- 创建 API 令牌,并授予以下权限:
AI Gateway - ReadAI Gateway - Edit
- 获取你的 Account ID。
- 使用该 API 令牌和 Account ID,发送
POST请求 创建新 Gateway,并包含rate_limiting_interval、rate_limiting_limit和rate_limiting_technique的值。
此速率限制行为将统一应用于该 gateway 的所有请求。