更新时间:2025-08-14 GMT+08:00
分享

创建Standard专属资源池

在AI开发过程中,由于业务需求的多样化和资源使用的复杂性,为满足特定业务对资源确定性、安全性、高效性的严格要求,创建专属资源池成为必要举措。

专属资源池是一种为特定用户、业务或项目专门划分和预留的资源集合,这些资源在物理或逻辑上与其他资源隔离开来,以确保特定需求能够得到满足。

ModelArts Standard资源池提供了在使用ModelArts进行AI开发(包括创建Workflow工作流、创建Notebook实例、创建训练作业、创建推理服务)所需的计算资源。更多Standard资源池介绍请见Standard资源池功能介绍

ModelArts Standard专属资源池以弹性集群的方式提供专属计算资源,需要通过创建Standard专属资源池获取计算资源,以满足您在使用ModelArts过程中特定的业务需求。

本章节主要介绍创建Standard专属资源池的详细操作。

计费影响

在创建Standard专属资源池时,会产生计算资源的计费,计算资源为进行运行Workflow、开发环境、模型训练和部署服务的费用。具体内容如表1所示。

表1 计费项

计费项

计费项说明

适用的计费模式

计费公式

计算资源

专属资源池

使用计算资源的用量。

具体费用可参见ModelArts价格详情

按需计费

规格单价 * 计算节点个数 * 使用时长

包年/包月

规格单价 * 计算节点个数 * 购买时长

前提条件

保证足够的资源配额,如果当前资源配额限制无法满足使用需要,您可以申请扩大配额,详情请见配额与限制

登录ModelArts管理控制台,在左侧菜单栏中选择“资源管理 > 标准算力集群 (Standard Cluster)”,在标准算力集群列表右上角查看配额(可用/总量)。

步骤一:创建网络

ModelArts网络是承载ModelArts资源池节点的网络连接,基于华为云的VPC进行封装,对用户仅提供网络名称以及CIDR网段的选择项。为了防止在打通VPC的时候有网段的冲突,ModelArts网络提供了多个CIDR网段的选项,用户可以根据自己的实际情况进行选择。

虚拟私有云VPC是一套为实例构建的逻辑隔离的、由用户自主配置和管理的虚拟网络环境。为云服务器、云容器、云数据库等资源构建隔离的、用户自主配置和管理的虚拟网络环境,提升用户资源的安全性,简化用户的网络部署。

单用户最多可创建15个网络。创建网络操作步骤如下。

  1. 登录ModelArts管理控制台,在左侧导航栏中选择“资源管理 > 网络管理”,单击“创建网络”
  2. 在“创建网络”弹窗中填写网络信息。
    • 网络名称:创建网络时默认生成网络名称,也可自行修改。
    • 网段类型:可选“预置”和“自定义”。自定义网络,建议使用网段:10.0.0.0/8~24、172.16.0.0/12~24、192.168.0.0/16~24,子网掩码可选范围8-28。如您要使用推理服务,请避免vpc网段与推理保留网段冲突:192.168.0.0/16,172.16.0.0/16,10.247.0.0/16,10.255.0.0/16,172.16.0.0/16,10.247.0.0/16。
      网段设置以后不能修改,避免与将要打通的VPC网段冲突。可能冲突的网段包括:
      • 用户的VPC网段
      • 容器网段(固定是172.16.0.0/16)
      • 服务网段(固定是10.247.0.0/16)
    • IPV6:开启IPv6功能后,将自动为子网分配IPv6网段,暂不支持自定义设置IPv6网段,该功能一旦开启,将不能关闭。(如果创建网络时未勾选开启IPv6,也可在创建网络后在操作列单击“更多>启用IPv6”,如图2
    图1 创建网络

    图2 启用IPv6
  3. 确认无误后,单击“确定”

    网络创建后,可在网络管理页面查看已创建的网络。

步骤二:打通VPC(可选)

打通VPC通常指在不同的VPC之间或者VPC与其他网络环境之间建立网络连接,以实现资源共享和安全通信。

通过打通VPC,可以方便用户跨VPC使用资源,实现资源共享、提升数据传输效率、保障业务连续性等。

在打通VPC前,需要提前创建好待打通的VPC和子网,详情请见创建虚拟私有云和子网

  1. “资源管理>网络管理”页签,单击网络列表中某个网络操作列的“打通VPC”
    图3 打通VPC
  2. 在打通VPC弹框中,打开“打通VPC”开关,在下拉框中选择可用的VPC和子网。

    需要打通的对端网络不能和当前网段重叠。

    图4 打通VPC参数选择
    • 如果没有VPC可选,可以单击右侧的“创建虚拟私有云”,跳转到网络控制台,申请创建虚拟私有云。
    • 如果没有子网可选,可以单击右侧的“创建子网”,跳转到网络控制台,创建可用的子网。
    • 支持1个VPC下多个子网的打通,如果VPC下有多个子网,会显示“+”,单击“+”即可添加子网(上限10个)。
    • 如果需要使用打通VPC的方式实现专属资源池访问公网,由于要访问的公网地址不确定,一般是建议用户在VPC中创建SNAT。此场景下,在打通VPC后,专属资源池中作业访问公网地址,默认不能转发到用户VPC的SNAT,需要提交工单联系技术支持在专属资源池VPC的路由中添加指向对等连接的缺省路由。当您开启默认路由后,在打通VPC时,会将ModelArts网络0.0.0.0/0路由作为默认路由,此时无需提交工单添加缺省路由即可完成网络配置。

步骤三:创建Standard专属资源池

ModelArts Standard专属资源池以弹性集群的方式提供专属计算资源,需要通过创建Standard专属资源池获取计算资源,以满足您在使用ModelArts过程中特定的业务需求。

  1. 登录ModelArts管理控制台,在左侧菜单栏中选择“资源管理 > 标准算力集群 (Standard Cluster)”。
  2. 在“标准算力集群 (Standard Cluster) ”页面,单击“购买标准算力集群”,进入购买标准算力集群界面,参见下表填写参数。
    表2 AI专属集群的参数说明

    参数名称

    子参数

    说明

    计费模式

    -

    计费模式可以选择“包年/包月”“按需计费”

    • 包年/包月是预付费模式,按订单的购买周期计费,适用于可预估资源使用周期的场景,其价格比按需计费模式更优惠。
    • 按需计费是后付费模式,按云服务器的实际使用时长计费,可以随时开通/删除云服务器。

    集群规格

    集群名称

    Standard专属资源池的名称。

    只能以小写字母开头,由小写字母、数字、中划线(-)组成,不能以中划线结尾。

    资源池类型

    可选物理资源池和逻辑资源池。

    • 物理资源池

      实际的硬件资源集合,包括GPU、NPU、CPU等计算资源。这些资源是ModelArts运行的基础,用户在创建逻辑子池之前,必须先创建一个物理资源池。物理资源池支持不同的作业类型,如训练、推理等。

      物理资源池不支持弹性资源,优势是提供更高的隔离性,物理隔离,网络专属,且支持网络打通等。

    • 逻辑资源池

      在物理资源池的基础上将资源池划分为逻辑上的资源池。可以根据业务需要创建多个逻辑子池,每个子池定义一种运行环境。根据不同的计算架构创建相应的逻辑池,能够快速动态地分配和调整资源。

      支持弹性资源,优势是创建、扩缩容更快。逻辑资源池与规格有关,如果无逻辑规格则逻辑资源池置灰不可选。

    作业类型

    Standard资源池提供了在使用ModelArts进行AI开发作业所需的计算资源。

    根据业务需要,选择该资源池支持的作业类型,包括“开发环境”、“训练作业”、“推理服务”。

    集群高级配置

    • 集群规格:可以保持默认或选择自定义。选择自定义时,支持设置集群规模、开启控制节点高可用开关。
      • 集群规模:表示资源池支持管理的最大实例数量,请根据业务场景选择。
      • 控制节点高可用:开启后,系统为您的集群创建三个控制平面节点,确保集群的可靠性。如果集群规模为1000/2000节点,则必须开启。如果关闭高可用,您的集群只会创建一个控制平面节点。资源池创建后,控制节点高可用的开启或关闭状态不可修改。
    • 控制节点分布:可以选择随机分配,也可以指定可用区。控制节点推荐尽可能随机分布在不同可用区以提高容灾能力。
      • 随机分配:系统会随机分配控制节点的可用区,尽可能将控制节点随机分布在不同可用区以提高容灾能力 。如果某可用区资源不足,将分配至资源充足的可用区,优先保障集群创建成功,可能无法保障可用区级容灾。
      • 指定可用区:自定义选择控制节点的可用区。

    网络

    MA网络

    指定资源池运行的网络,可以与该网络中的其他云服务资源实例互通。仅物理资源池需要设置网络。

    在下拉框中选择,如果没有可用网络,单击右侧的“创建”,创建一个可用的网络。创建网络相关可以参考步骤一:创建网络章节。

    如您要使用推理服务,请避免vpc网段与推理保留网段冲突:192.168.0.0/16,172.16.0.0/16,10.247.0.0/16,10.255.0.0/16,172.16.0.0/16,10.247.0.0/16。

    IPv6网络

    开启IPv6功能。如果开启了此功能,要求资源池绑定的网络也开启IPv6功能,网络开启IPv6可以参考步骤一:创建网络章节。该功能一旦开启,将不能关闭。

    默认规格

    CPU架构

    资源类型的CPU架构,支持X86和ARM两种不同的CPU架构,同时支持X86和ARM64异构调度。请根据实际需要选择。

    • X86:如果使用GPU资源选择X86。适用于大多数通用计算场景,支持广泛的软件生态。
    • ARM64:如果使用NPU资源则选择ARM。适用于特定优化场景,如移动应用、嵌入式系统等,具有低功耗优势。

    实例规格类型

    支持CPU、GPU、Ascend三种芯片规格资源,根据实际需要选择。请先选择CPU架构,再根据具体需求选择实例规格。具体规格有区域差异,以最终显示为准。

    • CPU:通用计算架构,计算性能较低,适合通用任务,计算性能较低。
    • GPU:并行计算架构,适合并行任务,计算性能高,支持多卡分布式训练,适用于深度学习训练、图像处理等场景。
    • Ascend:专用 AI 架构,适合 AI 任务,计算性能极高,支持多节点分布式部署,适用于AI 模型训练、推理加速等场景。

    实例规格

    在下拉框中选择需要使用的规格。平台分配的资源规格包含了一定的系统损耗,实际可用的资源量小于规格标称的资源。

    当前部分规格为受限购买(如Ascend规格),需要提前联系客户经理申请开通资源规格,预计1~3个工作日内开通(如果无客户经理可提交工单反馈)。

    可用区

    您可以根据实际情况选择随机分配”“指定可用区”。可用区是在同一区域下,电力、网络隔离的物理区域。可用区之间内网互通,不同可用区之间物理隔离。

    • 随机分配:系统自动分配可用区。
    • 指定可用区:指定资源池节点在哪个可用区域。考虑系统容灾时,推荐指定节点在同一个可用区。可设置可用区的实例数。

    实例数

    选择专属资源池的实例数,选择的实例数越多,计算性能越强。

    当“可用区”选择“指定可用区”时,实例数会根据可用区的数据自动计算,此处无需再次设置。

    单次创建时,实例数建议不大于30,否则可能触发限流导致创建失败。

    部分规格支持整柜购买,此时实例数量会显示为“数量*整柜”,购买的实例总数为两者的乘积。整柜购买可实现不同任务间的物理隔离,避免通信冲突,在任务规模增大的同时保证计算性能线性度不下降。整柜下的实例生命周期需保持一致,需要一起创建、一起删除。

    节点高级配置

    开启“节点高级配置”开关后,支持设置实例的操作系统。

    存储配置

    资源池类型为“物理资源池”时,支持开启“存储配置”开关。

    系统盘

    打开“存储配置”开关后,可以看到每个实例默认自带的系统盘的磁盘类型、大小或数量。

    部分规格没有携带系统盘,在创建专属资源池时支持设置系统盘的磁盘类型和大小。

    容器盘

    打开“存储配置”开关后,可以看到每个实例自带的容器盘的磁盘类型、大小和数量。容器盘的类型只能是本地盘或云硬盘,不允许修改。

    部分规格没有携带容器盘,在创建专属资源池时支持设置容器盘的磁盘类型和大小。此时,磁盘类型仅支持云硬盘(包括通用SSD、高IO和超高IO)。

    添加容器数据盘

    部分规格支持额外挂载容器数据盘,可以看到“添加容器数据盘”参数,单击该参数前面的+号,可以给专属资源池的每个实例额外挂载容器数据盘,此处挂载的盘都是EVS云硬盘,会单独收费。

    支持设置挂载盘的磁盘类型、大小和数量,具体取值以控制台实际显示为准。

    容器盘高级配置-指定磁盘空间

    容器盘空间默认划分为两块,一块用于存放容器引擎 (Docker/Containerd) 工作目录、容器镜像的数据和镜像元数据;另一块用于Kubelet组件和EmptyDir临时存储等。通过“指定磁盘空间”参数设置这两块分区大小的比例。容器引擎空间的剩余容量将会影响镜像下载和容器的启动及运行。

    容器盘的类型是本地盘时,不支持设置“指定磁盘空间”

    容器盘高级配置-容器引擎空间大小

    该参数限制的是POD容器空间分配的大小。可指定容器引擎空间大小。

    仅支持整数, 默认值与最小值为50GiB,不同规格的最大值不同,数值有效范围请参考界面提示。自定义设置容器引擎空间大小不会造成额外费用增加。

    该参数限制了单个POD作业使用磁盘的大小。

    容器盘高级配置-写入模式

    部分规格支持设置磁盘的写入模式,写入模式包括“线性”“条带化”

    • 线性:线性逻辑卷是将一个或多个物理卷整合为一个逻辑卷,实际写入数据时会先往一个基本物理卷上写入,当存储空间占满时再往另一个基本物理卷写入。
    • 条带化:创建逻辑卷时指定条带化,当实际写入数据时会将连续的数据分成大小相同的块,然后依次存储在多个物理卷上,实现数据的并发读写从而提高读写性能。条带化模式的存储池不支持扩容。

    新增规格

    支持添加多个规格。限制如下:

    • 添加的多个规格项中,不能有相同的规格。
    • 如果选择了多个GPU或NPU规格,由于不同规格的参数网络平面不互通,分布式训练时训练速度会受到影响。如果您要做分布式训练,建议您只选择一个GPU或NPU规格。
    • 一个资源池中,最多可添加10种规格。

    插件配置

    选择插件

    ModelArts提供多种类型的插件,通过添加插件选择性扩展资源池功能,以满足业务需求。

    默认安装插件如下:

    • 节点故障检测(ModelArts Node Agent)

      ModelArts节点故障检测是一款监控集群节点异常事件的插件,以及对接第三方监控平台功能的组件。它是一个在每个节点上运行的守护程序,可从不同的守护进程中搜集节点问题。

    • 指标监控插件(ModelArts Metric Collector)

      默认内置插件,以节点守护程序运行,可采集节点及作业各类监控指标,并上报到AOM。

    • AI套件(Ascend NPU)

      支持容器里使用huawei NPU设备的管理插件。

      仅实例规格类型选择“Ascend”时自动安装。

    • Volcano调度器(Volcano Scheduler)

      Volcano 是一个基于 Kubernetes 的批处理平台,提供了机器学习、深度学习、生物信息学、基因组学及其他大数据应用所需要而 Kubernetes 当下缺失的一系列特性。

      作业类型选择“训练作业”时自动安装。

    单击各插件的“查看详情”,可查看对应插件的功能介绍、版本更新特性等具体信息。

    资源调度与切分

    自定义驱动

    默认关闭。部分GPU和Ascend规格资源池允许自定义安装驱动。集群中默认会安装驱动,无需用户操作。只有需要指定驱动版本时,需要开启。

    GPU驱动/Ascend驱动

    打开“自定义驱动”开关,显示此参数,选择GPU/Ascend驱动。如果实例规格类型为GPU则显示“GPU驱动”,如果实例规格类型为Ascend则显示“Ascend驱动”。

    开启高可用冗余

    -

    资源池创建时,规格为“snt9C”系列的实例规格支持开启高可用冗余。

    • 开启高可用冗余:是否开启资源池的高可用冗余,超节点默认开启高可用冗余。
    • 冗余节点分布策略:冗余节点的分布策略,超节点仅支持step均分:每个超节点内预留相同数量的冗余节点。
    • 冗余实例数:此规格设置的高可用冗余实例数量。冗余系数指的是冗余节点分布策略为step均分时,每个超节点内预留的冗余实例数量。

    高级配置

    集群描述(可选)

    输入集群描述信息,方便查找区分集群。

    标签

    单击“添加新标签”,可以为Standard资源池配置标签信息,通过标签实现资源的分组管理。此处的标签信息可以同源标签管理服务TMS中预定义的标签信息,也可以输入自定义标签。也可以在创建完成后的Standard资源池详情页面中通过“标签”页签设置标签信息。

    TMS预定义标签对所有支持标签功能的服务资源可见。自定义标签只对自己服务可见。

    网段

    可选默认和自定义。

    • 默认:系统随机分配一个不冲突的网段供用户使用,因后续不支持修改建议商用场景选择手动分配,确保网段符合用户诉求。
    • 自定义:需要自定义K8S容器网段和K8S服务网段。
      • K8S容器网段:集群下容器使用的网段,决定了集群下容器的数量上限。创建后不可修改。
      • K8S服务网段:同一集群下容器互相访问时使用的Service资源的网段。决定了Service资源的上限。 创建后不可修改。

      如您要使用推理服务,请避免vpc网段与推理保留网段冲突:192.168.0.0/16,172.16.0.0/16,10.247.0.0/16,10.255.0.0/16,172.16.0.0/16,10.247.0.0/16。

    购买时长

    -

    选择购买时长。只有选择“包年/包月”计费模式时才需填写。

    自动续费

    是否自动续费。只有选择“包年/包月”计费模式时才需填写。自动续费时系统从可用余额扣款,详情请见自动续费

    • 按月购买:自动续费周期为1个月。
    • 按年购买:自动续费周期为1年。
  3. 单击“立即购买”确认规格。产品规格和协议许可确认无误后,单击“提交”,即可创建专属资源池。
    • 当资源池创建成功后,资源池的状态会变成“运行中”。
    • 可以将鼠标放在“创建中”字样上,查看当前创建过程详情。如果单击查看详情,可跳转到“操作记录”中。
    • 可以在资源池列表左上角“操作记录”中查看资源池的任务记录。
      图5 查看资源池状态

常见问题

创建专属资源池时,能选到规格但最终创建时发生报错,提示无可用资源?

由于专属资源的可选规格是动态监测的,因此在极少数情况下会出现,规格在购买界面可以被选择,但由于没有及时支付和创建资源池,导致该规格售罄创建失败。

建议您在创建界面更换规格重新创建资源池。

为什么无法使用资源池节点上的全部CPU资源?

由于资源池节点上会安装系统、插件等内容,因此不能完全使用所有资源。例如:资源池节点是8U,节点分配给系统组件部分CPU,可用的资源会小于8U。

建议您在启动任务前,在该资源池的详情页中,单击“节点”页签,查看实际可用的CPU资源。

ModelArts支持使用ECS创建专属资源池吗?

不支持。创建资源池时,只能选择界面提供的“未售罄”节点规格进行创建。专属资源池的节点规格后台是对应的ECS资源,但是无法使用账号下购买的ECS,作为ModelArts专属资源池。

在ModelArts中公共资源池和专属资源池的区别是什么?

  • 专属资源池:专属资源池不与其他用户共享,资源更可控。在使用专属资源池之前,您需要先创建一个专属资源池,然后在AI开发过程中选择此专属资源池。
  • 公共资源池:公共资源池提供公共的大规模计算集群,根据用户作业参数分配使用,资源按作业隔离。 用户下发训练作业、部署模型、使用开发环境实例等,均可以使用ModelArts提供的公共资源池完成,按照使用量计费,方便快捷。

专属资源池和公共资源池的能力主要差异请见在ModelArts中公共资源池和专属资源池的区别是什么?

创建资源池失败

在资源池创建失败或变更失败,可通过查看资源池的操“作记录”查看失败状态的资源池信息,进一步定位操作失败的具体原因,详情请见创建资源池失败

相关文档