Workers 绑定

Workers

Workers 提供了一个无服务器执行环境，允许您创建新应用程序或增强现有应用程序。

要将 Workers AI 与 Workers 一起使用，您必须创建一个 Workers AI 绑定。绑定允许您的 Worker 与 Cloudflare 开发者平台上的资源（如 Workers AI）进行交互。您可以在 Cloudflare 仪表板上或通过更新您的 Wrangler 文件来创建绑定。

要将 Workers AI 绑定到您的 Worker，请将以下内容添加到您的 Wrangler 文件的末尾：

wrangler.jsonc

{
  "ai": {
    "binding": "AI"
  }
}

wrangler.toml

[ai]
binding = "AI" # 即在您的 Worker 中通过 env.AI 可用

Pages 函数

Pages 函数允许您通过在 Cloudflare 网络上执行代码来构建具有 Cloudflare Pages 的全栈应用程序。函数本质上是 Workers。

要在您的 Pages 函数中配置 Workers AI 绑定，您必须使用 Cloudflare 仪表板。有关说明，请参阅 Workers AI 绑定。

方法

async env.AI.run()

async env.AI.run() 运行一个模型。第一个参数是模型，第二个参数是一个对象。

const answer = await env.AI.run("@cf/meta/llama-3.1-8b-instruct", {
  prompt: "What is the origin of the phrase 'Hello, World'",
});

参数

• model string 必需

  • 要运行的模型。

  支持的选项

  • stream boolean 可选
    • 在结果可用时返回结果流。

const answer = await env.AI.run("@cf/meta/llama-3.1-8b-instruct", {
  prompt: "What is the origin of the phrase 'Hello, World'",
  stream: true,
});

return new Response(answer, {
  headers: { "content-type": "text/event-stream" },
});