Skip to content
Cloudflare Docs
非官方翻译 - 此文档为非官方中文翻译版本，仅供参考。如有疑问请以 英文官方文档 为准。

WebSockets API

AI 网关 WebSockets API 为 AI 交互提供持久连接，消除重复握手并减少延迟。此 API 分为两类：

  • 实时 API - 专为通过 WebSockets 提供低延迟、多模态交互的 AI 提供商而设计。
  • 非实时 API - 支持 AI 提供商的标准 WebSocket 通信，包括那些本身不支持 WebSockets 的提供商。

何时使用 WebSockets

WebSockets 是长期存在的 TCP 连接，支持客户端和服务器之间的双向、实时和非实时通信。与需要为每个请求重复握手的 HTTP 连接不同，WebSockets 维护连接，支持持续数据交换并减少开销。WebSockets 非常适合需要低延迟、实时数据的应用程序，如语音助手。

主要优势

  • 减少开销：通过维护单一持久连接，避免重复握手和 TLS 协商的开销。
  • 提供商兼容性：与 AI 网关中的所有 AI 提供商兼容。即使您选择的提供商不支持 WebSockets，Cloudflare 也会为您处理，管理对您首选 AI 提供商的请求。

主要区别

功能实时 API非实时 API
目的为提供专用 WebSocket 端点的提供商启用实时、多模态 AI 交互。支持本身不支持 WebSockets 的提供商的基于 WebSocket 的 AI 交互。
用例用于语音、视频和实时交互的流式响应。基于文本的查询和响应，如 LLM 请求。
AI 提供商支持仅限于提供实时 WebSocket API 的提供商。AI 网关中的所有 AI 提供商。
流式支持提供商本身支持实时数据流。AI 网关通过 WebSockets 处理流式传输。

有关实现的详细信息，请参阅下一节：