成本指标仅适用于模型在其响应中返回令牌数据和模型名称的端点。
AI 网关让您更容易监控和估算所有 AI 提供商基于令牌的成本。这可以帮助您:
AI 网关允许用户在特殊定价协议或协商费率下设置自定义成本。自定义成本可以在请求级别应用,应用时将覆盖默认或公共模型成本。 有关自定义成本配置的更多信息,请访问自定义成本配置页面。