更新时间:2024-10-16 GMT+08:00
分享

管理模型资产、推理资产

查看模型资产与模型推理资产

用户购买盘古大模型套件后,可以在“平台管理 > 资产管理”中查看购买的模型资产和模型推理资产。

图1 查看模型资产
图2 查看模型推理资产

续订模型推理资产

模型推理资产到期后,可以进行续订操作。

在“平台管理 > 资产管理 > 模型推理资产”中单击操作列“续订”执行续订操作。

图3 续订模型推理资产

扩容模型推理资产

推理资产不足,现有资源无法满足同时部署多个模型时,可以扩容模型推理资产。

在“平台管理 > 资产管理 > 模型推理资产”中,单击操作列“扩容”执行扩容操作。

图4 扩容模型推理资产

不同类型的模型在部署时,做占用的推理资产数量存在差异,部署模型时所占的推理资产数量与模型类型关系如下。

表1 部署模型

模型类型

推理资产占有数量

盘古-NLP-N1 系列模型

部署1实例占用0.125个推理单元。

盘古-NLP-N2 系列模型

部署1实例占用0.5个推理单元。

盘古-NLP-N4 系列模型

部署1实例占用1个推理单元。

相关文档