文档首页> AI开发平台ModelArts> 常见问题> 推理部署> 部署上线> 功能咨询> 部署服务如何选择计算节点规格?
更新时间:2023-11-25 GMT+08:00

部署服务如何选择计算节点规格?

部署服务时,用户需要指定节点规格进行服务部署,界面目前显示的节点规格是ModelArts根据用户的AI应用和资源池的节点规格计算得到,用户可以选择ModelArts提供的规格,也可以使用自定义规格(公共资源池不支持)。

计算节点规格主要是根据用户AI应用实际需要的资源进行选择,如AI应用正常运行需要3U10G的资源,那么需要选择大于3U10G的计算节点规格。确保服务能够部署成功正常运行。

图1 选择计算节点规格

规格的使用注意事项如下:

1、权限控制

通用的计算节点规格是未做权限控制的,如modelarts.vm.cpu.2u,只要资源池有资源,就可以选择使用。ModelArts默认提供两个规格:CPU:modelarts.vm.cpu.2u和GPU:modelarts.vm.gpu.p4。

一些特殊的规格需要联系系统管理员增加权限。

2、公共资源池的规格售罄

共享池的资源是有限的,显示售罄表示当前规格的资源已经被用完。请选择未售罄的规格,也可以创建自己的专属资源池。

3、自定义规格

只有在专属资源池部署服务时,支持自定义资源规格。公共资源池部署服务不支持。

图2 自定义规格

功能咨询 所有常见问题

more