更新时间:2025-01-05 GMT+08:00
分享

统计NLP大模型调用信息

针对调用的大模型,平台提供了统一的管理功能。

  1. 登录ModelArts Studio大模型开发平台,在“我的空间”模块,单击进入所需空间。
  2. 单击左侧导航栏“调用统计”,选择“NLP”页签。
  3. 选择当前调用的NLP大模型,可以按照不同时间跨度查看当前模型的调用总数、调用失败的次数、调用的总Tokens数、以及输入输出的Tokens数等基本信息。

    此外,该功能还提供了可视化界面,可额外查看响应时长以及安全护栏拦截次数。

相关文档