更新时间:2024-12-03 GMT+08:00
分享

统计模型调用信息

针对调用的大模型,平台提供了统一的管理功能。

  1. 登录ModelArts Studio大模型开发平台,进入所需操作空间。
    图1 进入操作空间
  2. 单击左侧导航栏“调用统计”,选择“NLP”页签。
  3. 选择当前调用的NLP大模型,可以按照不同时间跨度查看当前模型的调用总数、调用失败的次数、调用的总Tokens数、以及输入输出的Tokens数等基本信息。

    此外,该功能还提供了可视化界面,可额外查看响应时长以及安全护栏拦截次数。

相关文档