AI Gateway WebSockets API 为 AI 交互提供持久连接，消除重复握手并降低延迟。此 API 分为两类：
- Realtime API — 专为通过 WebSockets 提供低延迟、多模态交互的 AI 提供商设计。
- Non-Realtime API — 支持 AI 提供商的标准 WebSocket 通信，包括本身不支持 WebSockets 的提供商。
WebSockets 是长寿命 TCP 连接，支持客户端和服务器之间的双向实时和非实时通信。与 HTTP 连接不同（每个请求都需要重复握手），WebSockets 保持连接，以较低开销支持持续数据交换。WebSockets 适用于需要低延迟、实时数据的应用，例如语音助手。
- 降低开销：通过维护单一持久连接，避免重复握手和 TLS 协商的开销。
- 提供商兼容性：适用于 AI Gateway 中的所有 AI 提供商。即使你选择的提供商不支持 WebSockets，Cloudflare 也会为你处理，管理对你首选 AI 提供商的请求。
| 功能 | Realtime API | Non-Realtime API |
|---|---|---|
| 用途 | 为提供专用 WebSocket 端点的提供商启用实时、多模态 AI 交互。 | 支持与不原生支持 WebSockets 的提供商进行基于 WebSocket 的 AI 交互。 |
| 用例 | 语音、视频和实时交互的流式响应。 | 基于文本的查询和响应，例如 LLM 请求。 |
| AI 提供商支持 | 限于提供实时 WebSocket API 的提供商。 | AI Gateway 中的所有 AI 提供商。 |
| 流式支持 | 提供商原生支持实时数据流。 | AI Gateway 通过 WebSockets 处理流式传输。 |
有关实现的详情，请参阅以下部分：