管理轻量算力集群节点池
场景描述
在集群节点管理场景中,用户面临节点配置分散、批量操作效率低等管理难题。ModelArts创新性地引入节点池管理机制,通过将节点池作为逻辑单元(可包含单个或多个节点)实现批量配置管理。用户可基于节点池统一进行节点组的扩缩容、资源配置及生命周期管理,系统支持在节点池维度执行驱动升级、标签管理等操作,从而显著提升集群节点的运维效率并降低管理复杂度。
进入节点池管理页面
- 登录ModelArts管理控制台,在左侧菜单栏中选择“资源管理 > 轻量算力资源 > 轻量算力集群”。
- 在“轻量算力集群 ”页面,单击轻量算力集群名称,进入资源详情页。
- 在资源池详情页,单击“节点池管理”页签,您可以创建、更新和删除节点池。 图1 节点池管理
创建节点池
- 当您需要更多节点池时,可单击“创建节点池”新增节点池,参考表1填写参数。 华东二区域每个轻量算力集群最多可创建15个节点池。西南贵阳一每个轻量算力集群最多可创建50个节点池。其他区域每个轻量算力集群最多可创建10个节点池。
表1 节点池参数说明 参数
说明
节点池名称
为帮助您更好地管理Kubernetes集群内的节点,ModelArts支持通过节点池来管理节点。
新建节点池的名称,可自定义。也可以在创建成功后在详情页对节点池名称行修改。
小写字母开头, 支持小写字母. 数字. 中划线(-), 不能以中划线(-)结尾,不能以-default结尾,长度范围2-50个字符。
实例规格类型
支持NPU、GPU、CPU三种芯片规格资源,根据实际需要选择。具体规格有区域差异,以最终显示为准。
- NPU:专用 AI 架构,适合 AI 任务,计算性能极高,支持多节点分布式部署,适用于AI 模型训练、推理加速等场景。
- GPU:并行计算架构,适合并行任务,计算性能高,支持多卡分布式训练,适用于深度学习训练、图像处理等场景。
- CPU:通用计算架构,计算性能较低,适合通用任务,计算性能较低。
“作业类型”为“模型部署(旧版)”时,不支持异构资源池。
操作系统
可以指定实例的操作系统。
- 预置镜像:由华为云官方提供的镜像,覆盖华为自研的HCE OS、EulerOS镜像和第三方商业镜像。支持设置预置操作系统的镜像。选择操作系统及其版本和镜像。选择镜像时可选择“自动匹配镜像”,服务会根据您选择的驱动匹配最优镜像。
- Huawei Cloud EulerOS镜像:Huawei Cloud EulerOS(简称HCE)是基于openEuler构建的云上操作系统。HCE打造云原生、高性能、高安全、易迁移等能力,加速用户业务上云,提升用户的应用创新空间,可替代CentOS、EulerOS等公共镜像。
- 华为自研EulerOS镜像:EulerOS是基于开源技术的企业级Linux操作系统软件,具备高安全性、高可扩展性、高性能等技术特性,能够满足客户IT基础设施和云计算服务等多业务场景需求。 说明:
EulerOS是基于开源操作系统openEuler进行开发的华为内部的操作系统。
- 第三方商业镜像:经华为云严格测试并制作发布,皆已正版授权,能够保证镜像安全、稳定。
- 私有镜像:由用户创建或导入的个人镜像,仅用户自己可见。包含操作系统、预装的公共应用以及用户的私有应用。如果选择“私有镜像”,请提前在镜像服务 IMS创建系统镜像,或者导入私有镜像到IMS,详情可参考镜像服务创建私有镜像。
自定义驱动
当实例规格类型为Snt9b、D310P系列规格时,支持选择驱动版本。
可用区
可用区是在同一区域下,电力、网络隔离的物理区域。可用区之间内网互通,不同可用区之间物理隔离。
分为“随机可用区”或“指定可用区”。
- 随机可用区:系统自动分配可用区。
- 指定可用区:指定资源池节点在哪个可用区域。考虑系统容灾时,推荐指定节点在同一个可用区。可设置可用区的实例数。
实例数
选择节点池的节点个数,数量越多,计算性能越强。
当“可用区”选择“指定可用区”时,实例数量会根据可用区的数据自动计算,此处无需再次设置。
单次创建时,实例数建议不大于30,否则可能触发限流导致创建失败。
实例数不能超过节点池集群规模,如果节点池集群规模选择默认,实例数不能超过49,具体请以控制台界面为准。
部分区域的部分规格支持整柜购买,此时实例数会显示为“数量*整柜”,购买的实例总数为两者的乘积。整柜购买可实现不同任务间的物理隔离,避免通信冲突,在任务规模增大的同时保证计算性能线性度不下降。整柜下的实例生命周期需保持一致,需要一起创建、一起删除。
超节点规格,即Snt9b23类型实例规格,支持自定义步长购买,此时实例数会显示为“数量*步长”,购买的实例总数为两者的乘积。步长为每次调整保障配额时的最小单位,在节点绑定场景下每个步长内的节点将作为一个整体,且属于同一批次。
系统盘
选择实例规格后,可以看到每个实例自带的系统盘存储方式、系统盘类型和容量。数据的存储位置,系统盘存储方式只能是本地盘或云硬盘。
部分规格没有携带系统盘,在创建专属资源池时支持设置系统盘存储方式、系统盘类型和容量。此时,系统盘存储方式仅支持“云硬盘 EVS”(包括通用SSD、高IO和超高IO)。
容器盘
可以看到每个实例自带的容器盘存储方式、容器盘类型、容量(GiB)数量(个)和写入模式等。
数据的存储位置,容器盘存储方式只能是本地盘或云硬盘。
部分规格没有携带容器盘,在创建专属资源池时支持设置容器盘的存储方式。此时,容器盘存储方式只能是本地盘或云硬盘,具体以控制台实际显示为准。云硬盘包括通用SSD、高IO和超高IO。
部分规格支持设置容器盘的写入模式,写入模式包括“线性”和“条带化”。
容器运行时空间分配
容器盘有两种空间分配方式,分为共享磁盘空间和指定磁盘空间。
-
共享磁盘空间:采用容器引擎和Kubelet共享磁盘空间的方式,不在划分容器引擎 (Docker/Containerd)和Kubelet组件的空间。
- 指定磁盘空间:容器盘空间默认划分为两块,一块用于存放容器引擎 (Docker/Containerd) 工作目录、容器镜像的数据和镜像元数据;另一块用于Kubelet组件和EmptyDir临时存储等。
- 容器引擎和容器镜像空间占比:容器引擎和容器镜像在数据盘上占用的空间比例上限,剩余空间将分配给Kubelet组件和EmptyDir临时缓存使用。
- Kubelet组件和EmptyDir临时缓存空间占比:表示Kubelet组件和EmptyDir临时缓存使用的空间。
“容器引擎和容器镜像空间占比”将直接影响“容器引擎空间(GiB)”的可用存储上限。
警告:- 开启共享磁盘后,部分容器占用过多磁盘空间可能影响其他业务,请合理规划使用。
- 轻量算力集群场景下,若客户自行在CCE集群中安装log-agent插件,需将插件升级至1.3.0版本及以上,否则会影响日志采集。
- 节点池创建成功后,可以修改该配置。修改配置后,新建节点生效,存量已创建节点不影响。修改容器运行时空间分配后,新建节点将与存量节点产生配置差异,可能影响业务运行一致性,请谨慎操作。如需统一配置,可对存量节点进行重置。
Pod 容器空间分配
该参数限制的是POD容器空间分配的大小。可指定容器引擎空间大小。
容器引擎空间大小仅支持整数, 默认值与最小值为50GiB,不同规格的最大值不同,数值有效范围请参考界面提示。自定义设置容器引擎空间大小不会造成额外费用增加。
该参数限制了单个POD作业使用磁盘的大小。定义容器组(Pod)中的单个容器在数据盘上可以使用的最大存储空间,建议此值不超过容器运行时空间的 80%。
不限制容器引擎空间可能导致磁盘被占满,影响节点稳定性,建议通过指定大小设置合理上限。
容器引擎空间大小
当“容器引擎空间限制”选择“指定大小”时,显示该参数。
修改容器引擎空间大小仅作用在新建节点上,且会导致资源池内该规格下节点的dockerBaseSize不一致,可能会使得部分任务在不同节点的运行情况不一致。
容器盘写入模式
部分规格支持设置容器盘的写入模式,写入模式包括“线性”和“条带化”。
- 线性:线性逻辑卷是将一个或多个物理卷整合为一个逻辑卷,实际写入数据时会先往一个基本物理卷上写入,当存储空间占满时再往另一个基本物理卷写入。
- 条带化:创建逻辑卷时指定条带化,当实际写入数据时会将连续的数据分成大小相同的块,然后依次存储在多个物理卷上,实现数据的并发读写从而提高读写性能。条带化模式的存储池不支持扩容。
数据盘
当前只有部分规格支持此功能。
- 数据盘存储方式:数据的存储位置。只能是本地盘或云硬盘。部分规格支持“添加普通数据盘”,挂载多个数据盘到资源池中。支持设置数据盘的“磁盘类型”、“大小”和“数量”。
- 不同规格有不同的磁盘数量限制,比如:300I Duo节点仅支持挂载4个数据盘,具体请以界面提示为准。
- 数据盘类型:部分规格没有携带容器盘,在创建专属资源池时支持设置容器盘的存储方式。此时,容器盘存储方式只能是本地盘或云硬盘,具体以控制台实际显示为准。云硬盘包括通用SSD、高IO和超高IO。
- 容量(GiB):数据盘容量。
- 数量(个):数据盘个数。
- 挂载方式:部分规格支持在数据盘高级配置参数中设置数据盘的挂载方式,具体如下。
- 写入模式:包括“线性”和“条带化”。
虚拟私有云
默认为CCE集群所在VPC网络,不可修改。
K8S标签
设置附加到Kubernetes对象(比如Pod)上的键值对。最多可以添加20条标签。使用该标签可区分不同节点,可结合工作负载的亲和能力实现容器Pod调度到指定节点的功能。
污点
默认为空。支持给节点加污点来设置反亲和性,每个节点最多配置20条污点。
容器引擎
容器引擎是Kubernetes最重要的组件之一,负责管理镜像和容器的生命周期。Kubelet通过Container Runtime Interface (CRI) 与容器引擎交互,以管理镜像和容器。此处支持选择Docker和Containerd。Containerd和Docker的详细差异对比请见容器引擎。
如果CCE集群版本低于1.23,仅支持选择Docker作为容器引擎。如果CCE集群版本大于等于1.27,仅支持选择Containerd作为容器引擎。其余CCE集群版本,支持选择Containerd或Docker作为容器引擎。
节点子网
选择同一VPC网络下的子网作为节点子网,新创建的节点池将会使用该子网资源。
单击“添加扩展网卡”可增加网卡。
首个节点子网默认为主网卡,负责节点基础通信(如注册、控制面交互);您可添加扩展网卡,用于承载业务流量和增强网络能力。
扩展网卡子网必须是节点主网卡网络配置(network)同一VPC下的子网。
扩展网卡数量最多支持8个。不同规格对网卡上限有一定区别。
关联安全组
用于指定节点池创建出来的节点使用的安全组。最多选择4个安全组。节点安全组需要放通一些端口以保障节点通信。如果不关联安全组将会使用集群中默认的节点安全组规则。
资源标签
通过为资源添加标签,可以对资源进行自定义标记,实现资源分类。
安装后执行脚本
请输入脚本命令,命令中不能包含中文字符,需传入Base64转码后的脚本,转码后的字符数不能超过2048。脚本将在Kubernetes软件安装后执行,不影响Kubernetes软件安装。
请不要在安装后执行脚本中使用reboot命令立即重启,如果需要重启,可以使用“shutdown -r 1”命令延迟1分钟重启。
节点计费模式
用户增加节点数量时,可以打开“节点计费模式”开关,为新创建的节点指定不同于资源池的计费模式或购买时长。
不选择时计费信息默认和资源池保持一致。例如用户可以在包周期的资源池中创建按需的节点。若用户不指定该参数,则新扩容的节点计费模式和资源池保持一致。
如果新创建的节点计费模式选择包周期,则需要选择勾选新增节点是否自动续费。勾选自动续费后,新增节点到期后会自动续期。
如果原节点池的计费模式为包周期,打开“节点计费模式”开关,修改新创建节点的计费说明时,如果计费模式仍为包周期,计费周期不能设置晚于原节点池的计费周期。例如原节点池的计费模式为包周期且6个月以后到期,增加节点数量时,新的节点计费说明选择包周期时,计费周期不能晚于6个月以后。
- 确认配置信息,鼠标移至配置费用,可查看并确认费用明细,确认完成后,单击“确认”。
- 在弹框中确认是否勾选新增节点自动续费,单击“确定”。
创建完成可以在节点池管理页面查看已创建的节点池信息。
查看节点列表
当您想查看某一节点池下的节点相关信息,可单击操作列的“节点列表”,可查询节点的名称、规格及可用区。
修改节点池配置
- 当您想更新节点池配置时,可单击操作列的“修改配置”,对配置进行更新操作。相关参数请参见表1。
- 确认配置信息,鼠标移至配置费用,可查看并确认费用明细,确认完成后,单击“确认”。
- 在弹框中确认是否勾选新增节点自动续费,单击“确定”。
更新完成可以在节点池管理页面查看已更新的节点池信息。
升级轻量算力集群驱动
当轻量算力集群中的节点含有GPU/Ascend资源时,资源池节点性能如果无法满足现有业务,升级驱动可以修复已知问题、提升性能或者支持新功能,确保资源池性能和兼容性得到优化。
可单击操作列的“更多>驱动升级”,升级轻量算力集群GPU/Ascend驱动,详情请见升级轻量算力集群驱动。
删除节点池
当有多个节点池时,支持删除节点池,此时在操作列会显示“删除”按钮,确认会影响的关联资源和关联作业,单击“删除”后输入“DELETE”并单击“确定”即可。
针对未退订或释放的包年/包月的节点,请单击“立即前往”,前往资源池详情页删除/退订/释放节点。
每个资源池至少需要有一个节点池,当只有一个节点池时不支持删除。
查看节点池的存储配置
在节点池管理的“更多>修改配置”页面,可以查看该节点池配置的系统盘、容器盘或数据盘的磁盘类型、大小、数量、写入模式、容器引擎空间大小等参数。
在轻量算力集群的扩缩容页面,也可以查看节点池的存储配置信息。
查找搜索节点池
在节点池管理页面的搜索栏中,支持通过节点池名称、实例规格 、POd 容器引擎空间大小、可用区等关键字搜索节点池。
单击“导出”可以导出节点池信息Excel表格,方便查阅。支持筛选后导出。
设置节点池列表显示信息
在节点池管理页面中,单击右上角的设置图标
,支持对节点池列表中显示的信息进行自定义。