Hugging Face 聊天界面

将 Workers AI 与 Hugging Face 提供的开源聊天界面 Chat UI ↗ 一起使用。

先决条件

您将需要以下内容：

• 一个 Cloudflare 帐户 ↗
• 您的帐户 ID
• 一个用于 Workers AI 的 API 令牌

设置

首先，决定如何引用您的帐户 ID 和 API 令牌（直接在您的 .env.local 中使用 CLOUDFLARE_ACCOUNT_ID 和 CLOUDFLARE_API_TOKEN 变量，或在端点配置中）。

然后，按照 Chat UI GitHub 仓库 ↗中的其余设置说明进行操作。

在设置模型时，请指定 cloudflare 端点。

{
  "name": "nousresearch/hermes-2-pro-mistral-7b",
  "tokenizer": "nousresearch/hermes-2-pro-mistral-7b",
  "parameters": {
    "stop": ["<|im_end|>"]
  },
  "endpoints": [
    {
      "type": "cloudflare",
      // 如果未包含在 .env.local 中，则可选择指定这些
      "accountId": "your-account-id",
      "apiToken": "your-api-token"
      //
    }
  ]
}

支持的模型

此模板适用于任何以 @hf 参数开头的文本生成模型。