跳转到内容
搜索文档

更新日志

Cloudflare 的最新更新与改进。

Back to all posts

出站连接使 Durable Objects 保持存活

现在,通过 connect() 或出站 WebSocket 创建的活动出站连接在持续期间,Durable Objects 将保持存活。此前,即使对象具有打开的出站连接,Durable Object 也会在 70-140 秒无入站流量后被逐出,而这在使用 TCP 或出站 WebSocket 从大型语言模型 (LLM) 流式传输响应时是一种常见模式。

通过此更改,每个活动的出站连接都可以防止被逐出。一旦所有出站连接关闭,在 Durable Object 被逐出之前将适用标准的 70-140 秒空闲窗口。

更改前:流式传输连接因逐出而中断

时间线显示 Durable Object 在最后一次入站请求后 70-140 秒被逐出,在出站连接仍处于打开状态时中断了进行中的 LLM 流

更改后:活动的出站连接使 Durable Object 保持存活

时间线显示由于活动连接使 Durable Object 保持存活,相同的出站流顺利完成,空闲窗口仅在连接关闭后才开始

如果您正在 Cloudflare 上构建智能体(Agent),这一点尤为重要。在调用模型时从 LLM 流式传输 Token 的智能体,或者通过出站连接执行长时间运行的任务的智能体,现在会在该连接持续期间保持存活,而不是在中途被逐出。

限制:

  • 每个出站连接最多可使 Durable Object 保持存活 15 分钟。15 分钟后,该连接将不再防止逐出(连接本身将继续运行),并恢复标准逐出规则
  • Durable Object 现有的每个账户实例限制仍然适用。

欲了解更多信息,请参阅 Durable Object 的生命周期