日志分类会分析存储在 AI Gateway 日志中的请求和响应内容。它按任务对符合条件的流量进行分类,并评估所用模型是否匹配任务要求。
这些结果为 User Insights 中的 Task and model analysis 提供数据。日志分类默认关闭。你必须为每个 gateway 单独开启。
AI Gateway 会分配任务分类,例如 debugging、code planning、code Q&A、text drafting 和 coding。Tasks by model 图表显示每个模型在这些分类中的 token 用量和预估支出分布。
AI Gateway 会将任务要求与所用模型的能力进行比较。它将模型匹配度分类为 Overkill、Appropriate、Underpowered 或 Could not assess。你可以按 token 用量或预估支出比较这些结果。
开启日志分类后,Cloudflare 可能会处理已存储的请求和响应内容,包括:
- 提示
- 模型响应
- 请求元数据
- 用于将相关请求关联到同一对话的标识符
Cloudflare 使用这些信息为 AI Gateway 分析功能生成任务和模型匹配度分类。
使用 AI Gateway 或标准日志收集不需要日志分类。开启此设置后,Cloudflare 会按本页所述分析所选 gateway 上符合条件的日志。此设置为 gateway 专用:为一个 gateway 开启不会为账户中的其他 gateway 开启。
- 该 gateway 还必须开启 Collect logs。
- 只有在 Collect logs 和 Log classification 同时开启期间记录的活动才符合分类条件。
- 关闭 Collect logs 也会关闭日志分类。
- 关闭 Log classification 会阻止对新的 gateway 活动进行分类。已在进行的工作和先前生成的结果仍受适用的保留和删除政策约束。
-
在 Cloudflare 仪表板中,转到 AI Gateway。
前往 AI Gateway ↗ -
选择一个 gateway,然后转到 Settings。
-
开启 Collect logs。
-
开启 Log classification。
要停止对新活动进行分类,请转到 gateway 的 Settings 并关闭 Log classification。
你可以继续收集日志,而无需开启分类。