Skip to content

Token 统计

Token 统计用于查看企业模型调用、Token 消耗和估算成本,帮助管理员分析使用情况、定位异常请求并进行容量与成本治理。

Token 统计

汇总指标

页面顶部展示:

  • 总成本、平均单次成本和近 24 小时成本。
  • 总 Token 消耗和平均每次请求消耗。
  • Prompt 输入 Token 和 Completion 输出 Token。
  • 近 24 小时 Token 消耗和模型调用次数。

成本数据按照当前模型估算价格计算,适合趋势分析和内部治理,不应直接替代供应商账单。

查询和筛选

管理员可以按照请求、模型或 Trace 关键词搜索,并结合部门、模型和执行状态筛选。状态可区分完成、用户终止、运行错误和网络故障等情况。

列表按用户请求聚合展示模型、状态、输入 Token、输出 Token、总量、成本和耗时。点击记录后可以继续查看:

  • 同一请求下的模型调用明细。
  • 对话内容和 Agent 执行步骤。
  • 任务生成的文档及其下载入口。

常见使用方式

  • 工作台出现失败调用后,按状态和时间缩小范围并查看请求详情。
  • 对比不同模型、部门或业务任务的 Token 和成本差异。
  • 识别异常高消耗请求,为岗位额度和模型选择提供依据。
  • 结合流量分配页面调整企业总额度、默认成员额度或个人额度。

数据访问

调用详情可能包含企业业务内容、用户问题和生成文件。只有获得授权的管理员才能查看,并应遵循企业的数据访问与审计制度。