查看专属资源池列表和详情
场景说明
本章节旨在帮助用户查看资源池列表及详情,涵盖列表页与详情页的核心内容及基础操作。详情页通过控制台页面的页签分类呈现功能模块,包括概览(展示基本信息与作业列表)、资源队列、节点、节点池、预热任务、事件、监控及插件等八大模块。用户可通过单击对应页签切换视图,实现对资源池配置状态、运行数据及扩展功能的集中管理。这种结构化设计有效解决了资源信息分散、操作路径不清晰的问题,使用户能够快速定位所需功能并执行相关操作。
资源池列表和详情
- 登录ModelArts管理控制台,在左侧菜单栏中选择“资源管理 > 专属算力资源 > 资源池”。
- 在页,用户可快速查看资源池基本信息,也可以进行部分管理操作。
- 单击标签可筛选和查看已创建资源池数量、异常资源池数量、异常节点数量。
- 单击右上角的“操作记录”按钮,可以查看资源池的操作信息。每条记录最多保留180天。此外,用户还可以在搜索框中通过操作状态、资源池ID和创建时间进行筛选。也可过滤查看当前处于失败状态的资源池订单信息。
- 通过搜索框,支持根据资源池的名称、资源池ID、资源ID、创建时间、资源池类型、状态、节点状态、规格、资源标签进行搜索。
- 支持在操作列对资源池监控快捷查看、创建节点池、管理资源队列、管理节点池、管理资源池等。
- 单击右上角“导出”可导出专属池列表。
- 在资源池列表中,单击某一资源池名称,进入资源池详情页,查看资源池的概览(基本信息与作业列表)、资源队列、节点、节点池、预热、事件、监控和插件。单击可切换具体页签查看详细内容。
- 可在基本信息中单击名称、描述后的
,对内容进行编辑修改。 - 可在基本信息中对标签进行编辑、查看、添加、修改、删除资源池的标签信息。
最多支持添加20个标签。
- 对于按需计费的专属资源池,在详情页中,在右上角可进行创建资源队列、创建节点池等快捷操作,也可以在
中进行扩缩容、变更超节点规格、开启节点绑定、设置作业类型、转包周期、删除等操作,不同资源池可进行的操作不一致,具体以控制台显示为准。 - 对于包年/包月的专属资源池,在详情页中,在右上角可进行创建资源队列、创建节点池、刷新等快捷操作,也可以在
中进行扩容、退订、续费、开通自动续费或修改自动续费、驱动升级、设置作业类型等操作,不同资源池可进行的操作不一致,具体以控制台显示为准。 - 在“基本信息”的“网络”中,可单击关联的资源池中的数字,查看关联的资源池。可以查看该网络中可用的IP数量。
- GPU/NPU类型的资源会展示“NPU/GPU 资源分布”,可以单击“NPU/GPU 资源分布”查看资源碎片及分布情况。
由于资源调度产生碎片,导致某些卡虽然空闲,但无法被多卡任务所使用。不同卡数的任务,根据已占用卡的分布不同,实际会有不同的碎片情况,请以界面展示为准。
- 可在基本信息中单击名称、描述后的
查看资源池中的作业
在资源池详情页,可以查看该资源池中运行的所有作业。
单击右侧“导出”可以导出作业列表信息Excel表格,方便查阅。
用户可以在搜索栏中输入作业名称或ID、创建者来搜索对应的作业,也可以通过作业类型或作业状态进行筛选。此外,用户还可以根据创建时间对作业进行排序查看。
如果当前有作业正在排队,用户可以查看作业在资源池中的排队位置。
查看和管理资源队列
用户可以在ModelArts专属资源池上拆分出资源队列,并设置每个子池的资源配额,包括保障配额和配额上限。拆分出资源队列后,训练、推理和开发环境的任务投递,需要投递在资源队列上,并受资源队列的配额约束,满足配额约束的任务才能被投递运行。
在资源池详情页,切换到“资源队列”页签,可以开启/关闭节点绑定、创建资源队列、导出资源队列列表等,也可以在操作列对资源队列进行配额管理、预热任务、设置作业类型、删除和节点管理等操作,详情请见管理专属资源池的资源队列。
查看资源池节点
在资源池详情页,切换到“节点”页签。
- 您可以查看资源池中所有的节点列表和基本信息。在节点的搜索栏,支持通过名称、节点状态、资源队列、批次、节点池、驱动版本、驱动状态、IP地址、支持GPU虚拟化和资源标签等关键字过滤搜索。
- 由于集群组件会占用一部分资源,所以列表中CPU(可用/总数)呈现的资源数量不代表该节点物理资源数量,仅表示可被业务使用到的资源量。其中,CPU核数为微核,1000微核=1物理核。
- NPU/GPU设备数(可用/可分配/总数):
- 可用指当前健康、可被调度的数量。可分配数指资源的可用额度,表示可被任务调度的逻辑数量。总数指资源的上限,表示资源的全部数量。
- 若资源池已开启虚拟切分,则“可用”等于切分后的虚拟卡数,“总数”为实际的物理卡总数。此时会按照“可用数”总和进行排序。
-
支持对多节点批量进行删除、退订、重启、重置、开启/关闭热备节点(旧版:高可用冗余)等操作,以及对节点批量添加、重置、删除资源标签等操作。“包年/包月”节点还支持批量续费、批量开通/修改自动续费功能。
在单个节点的操作列中,支持对节点进行删除、修复、重置、重启、授权、开启热备节点(旧版:高可用冗余)、关闭热备节点(旧版:高可用冗余)等操作。
- 支持导出专属资源池的节点信息到Excel表格中,方便查阅。勾选节点名称,在节点列表上方单击“导出 > 导出全部数据到XLSX”或者“导出 > 导出已选中数据到XLSX”,在浏览器的下载记录
中查看导出的Excel表格。 - 针对运行中的资源池节点,可以查看单个节点的运行作业列表。
- 可以查看当前节点的插件资源占用情况。
单击节点操作列的“更多 > 查询插件组件”,可在“组件列表”弹框中查看与插件相关的实例资源占用情况。
更多操作详见管理专属资源池节点。
查看节点池
在资源池详情页,切换到“节点池”页签。您可以查看该资源池使用的节点池情况、包括节点池名称、实例规格、容器引擎空间大小、可用区等信息。
通过属性筛选,可以快速筛选搜索需要的节点池。
单击“导出”可以导出节点池信息Excel表格,方便查阅。支持筛选后导出。
也可以在此处创建节点池、查看节点列表、修改配置、删除节点池等。更多操作详见管理专属资源池的节点池。
管理和查看模型预热
在资源池详情页,切换到“预热任务”页签。您可以查看资源的预热任务情况。
单击“添加预热任务”可创建预热任务。
也可以通过搜索和筛选查看预热任务。
更多操作详见在专属资源池添加模型预热。
查看资源池事件
在资源池详情页,切换到“事件”页签。您可以查看资源从创建到添加节点的各个阶段的事件。产生事件的原因主要有“资源池状态变化”、“热备节点数量变化”和“资源节点状态变化”。
在事件列表中,可单击“事件类型”列的
筛选查看。
- 当资源池开始创建或者出现异常时,因资源池状态变化,会将此变化信息记录到事件中。
- 当节点的可用、异常、创建中、删除中的数量发生变化时,因资源池节点状态变化,会将此变化信息记录到事件中。
查看资源池监控
在资源池详情页,切换到“监控”页签。展示了CPU使用量、内存利用率、磁盘可用容量等使用情况,均以资源池的维度呈现。当资源池中有AI加速卡时,还会显示GPU、NPU的相关监控信息。
资料视图建议将统计周期设为7天内,周期过长时 AOM 指标量大可能导致查询延迟,请耐心等待。
| 名称 | 指标含义 | 单位 | 取值范围 |
|---|---|---|---|
| CPU使用率 | 该指标用于统计测量对象的CPU使用率。 | 百分比(Percent) | 0~100% |
| 内存利用率 | 该指标用于统计测量对象已使用内存占申请物理内存总量的百分比。 | 百分比(Percent) | 0~100% |
| GPU显卡使用率 | 该指标用于统计测量对象已使用的显卡占显卡容量的百分比。 | 百分比(Percent) | 0~100% |
| GPU显存使用率 | 该指标用于统计测量对象已使用的显存占显存容量的百分比。 | 百分比(Percent) | 0~100% |
| NPU显卡使用率 | 该指标用于统计测量对象已使用的显卡占显卡容量的百分比。 | 百分比(Percent) | 0~100% |
| NPU显存使用率 | 该指标用于统计测量对象已使用的显存占显存容量的百分比。 | 百分比(Percent) | 0~100% |
| 磁盘可用容量 | 该指标用于统计测量对象可用的磁盘容量。 | MB | ≥0 |
| 磁盘容量 | 该指标用于统计测量对象磁盘总容量。 | MB | ≥0 |
| 磁盘利用率 | 该指标用于统计测量对象的磁盘使用率。 | 百分比(Percent) | 0~100% |
查看资源池插件
- ModelArts提供多种类型的插件,通过添加插件选择性扩展资源池功能,以满足业务需求。
- 在资源池详情页,切换到“插件”页签。可以查看资源池已安装和未安装的插件信息。
- 安装插件:在未安装插件列表中,选择待安装的插件,单击“安装”,配置相关信息,单击“确定”。具体配置信息请见管理专属资源池插件。
- 查看插件详情:单击插件名称,可查看插件详情,包括插件简介、组件列表等信息。