更新时间:2026-10-30 GMT+08:00
分享

缓存命中统计查询方式

方式一:在MaaS控制台查看

  1. 进入调用统计页面,设置调用统计过滤条件,以及筛选模型,如下图所示:

    图1 调用统计页面

  2. 在操作栏单击“查看监控”,查看缓存命中数和缓存命中率信息。

    图2 缓存命中信息

方式二:通过调用API获取

可通过获取服务统计信息列表或获取服务指标时间分布统计信息接口按条件查询模型调用统计信息,该服务仅保存30天内的统计数据。在接口的响应参数中,可通过下表字段获取缓存命中信息。

表1 缓存命中字段信息

字段名

字段类型

说明

cache_token

Double

缓存命中的Token数 (单位:千Tokens)。

cache_hit_ratio

Double

缓存命中率, 缓存命中的Token数/总输入的Token数 。取值为0.0-1.0,对应0%~100%。

相关文档