管理轻量算力集群
场景描述
在轻量算力集群管理场景中,用户面临资源生命周期管理分散、配置操作复杂等运维挑战。为解决集群续费、信息查看、标签管理、配置调整及退订等全生命周期管理需求,ModelArts提供集中化管理方案,支持通过控制台实现轻量算力集群的续费状态监控、基础信息查询、标签分类管理、资源配置优化,以及通过删除/退订操作完成集群资源池的生命周期终结,帮助用户构建标准化、可视化的集群管理体系,显著提升资源管理效率与操作可控性。
轻量算力集群续费管理
针对包年包月的轻量算力集群,支持续费功能,还可以开通自动续费、修改自动续费。自动续费时系统从可用余额扣款,详情请见自动续费。
登录ModelArts管理控制台,在左侧菜单栏中选择“资源管理 > 轻量算力资源 > 轻量算力集群”。在轻量算力集群右侧“
> 续费”进行操作,也可以开通自动续费。
查看轻量算力集群列表和基本信息
- 在ModelArts管理控制台的左侧导航栏中选择“资源管理 > 轻量算力资源 > 轻量算力集群”,进入轻量算力集群列表页。
- 在页,用户可快速查看集群的基本信息,也可以进行部分管理操作。
- 单击标签可筛选和查看已创建集群数量、异常集群数量、异常节点数量。
- 单击右上角的“操作记录”按钮,可以查看资源池的操作信息。每条记录最多保留180天。此外,用户还可以在搜索框中通过操作状态、资源池ID和创建时间进行筛选。也可过滤查看当前处于失败状态的资源池订单信息。
- 通过搜索框,支持根据资源池的名称、资源池ID、资源ID、创建时间、资源池类型、状态、节点状态进行搜索。
- 支持在操作列对资源池快捷创建节点池、扩缩容、管理节点池、管理资源池等。
- 单击右上角“导出”可导出轻量算力集群列表。
- 单击轻量算力集群名称,可以进入到轻量算力集群详情页中查看更多信息。可在基本信息中单击名称后的
,对名称进行编辑修改。
管理轻量算力集群标签
通过给资源池添加标签,可以标识云资源,便于快速搜索资源池。
- 登录ModelArts管理控制台,在左侧菜单栏中选择“资源管理 > 轻量算力资源 > 轻量算力集群”。
- 在轻量算力集群列表中,单击资源池名称进入资源池详情页面。
- 在资源池详情页面,单击“标签”页签查看标签信息。
支持添加、修改、删除标签。标签详细用法请参见ModelArts如何通过标签实现资源分组管理。
图3 标签
最多支持添加20个标签。
轻量算力集群配置管理
在资源池详情页面,单击“配置管理”,在配置管理页面,可以修改设置监控的命名空间、修改集群配置,配置镜像预热信息。
- 单击监控的
图标,可以开启或关闭监控信息,并设置监控的命名空间。监控使用请参考使用Prometheus查看轻量算力集群监控指标。 - 单击集群配置的
图标,可以设置绑核、Dropcache、大页内存参数。缺省值表示读取资源池镜像中的默认值。 - 绑核:开启CPU绑核表示工作负载实例独占CPU,可以提升应用性能(比如训练作业、推理任务性能),减少应用的调度延迟,适用于对CPU缓存和调度延迟敏感的场景。关闭绑核表示关闭工作负载实例独占CPU的功能,优点是CPU共享池可分配的核数较多。也可关闭系统默认绑核后,在业务容器中用taskset等方式进行灵活绑核。
- Dropcache:开启后表示启用Linux的缓存清理功能,是一种应用性能调优手段,在大部分场景下可以提升应用性能。但是清除缓存也可能会导致容器启动失败或系统性能暂时下降(因为系统需要重新从磁盘加载数据到内存中)。关闭表示不启用缓存清理功能。
- 大页内存:开启表示配置使用透明大页功能。大页内存是一种内存管理机制,可以通过增大内存页的大小来提高系统性能。透明大页是动态分配大页内存的机制,可以简化大页内存的管理。开启大页内存也是一种应用调优手段,在大部分场景下可以提升应用性能,但是开启后也会引起soft lockup机制导致节点重启。关闭表示不使用大页内存功能。
- 单击镜像预热的
图标,可以设置镜像来源、添加镜像密钥、添加镜像预热配置,具体操作请参见(可选)配置镜像预热。
删除/退订集群(资源池)
当AI业务开发不再需要使用资源池时,您可以删除/退订资源池,释放资源。
- 删除/退订资源池,会同步删除资源池中的关联资源,且删除操作无法恢复,请谨慎操作。请确保所有重要数据已备份,避免因误操作导致数据丢失。
- 如果资源池中包含已开启删除锁的节点,删除资源池可能会导致开启删除锁的节点被删除,从而中断正在运行的业务且不可回退,请谨慎操作,确保没有关键业务受到影响。
- 如果资源池中存在正在运行的任务或作业,建议先停止或迁移这些任务,再进行释放操作。
- 删除资源池操作适用于按需计费模式。退订资源池操作适用于包年/包月计费模式。
- 在轻量算力集群列表中,在需要删除的资源池的右侧操作列选择“
> 删除/退订”。 - 在“删除/退订资源池”页面,确认会影响的关联资源和关联作业,然后在文本框中输入“DELETE”,单击“确定”,删除资源池。
针对未退订或释放的包年/包月的节点,请前往资源池详情页查看资源池节点并退订或释放包年/包月节点。
释放完成后,资源池将从列表中移除。
更多相关操作
其他更多操作如下:
- 节点池管理操作请参见管理轻量算力集群节点池
- 节点管理操作请参见管理轻量算力集群节点
- 扩缩容轻量算力集群操作请参见扩缩容轻量算力集群
- 升级轻量算力集群驱动操作请参见升级轻量算力集群驱动
- 升级轻量算力集群单个节点驱动操作请参见升级轻量算力集群单个节点驱动