升级Lite Cluster资源池驱动
场景介绍
当Lite Cluster资源池中的节点含有GPU/Ascend资源时,资源池节点性能如果无法满足现有业务,升级驱动可以修复已知问题、提升性能或者支持新功能,确保资源池性能和兼容性得到优化。
ModelArts提供升级Lite Cluster资源池GPU/Ascend驱动的功能,您可根据自身业务需要通过ModelArts控制台升级Lite Cluster资源池GPU/Ascend驱动。
安全升级与强制升级对比
驱动升级有两种升级方式:安全升级、强制升级,对比如下。
对比项 |
安全升级 |
强制升级 |
---|---|---|
介绍 |
在节点空闲时进行驱动升级,不会影响正在运行的任务。升级过程平滑,减少对业务的影响。 开始升级后会先将节点进行隔离(不能再下发新的作业),待节点上的存量作业运行完成后再进行升级,由于需要等待存量作业执行完毕,故升级周期可能比较长。 |
忽略节点上正在运行的任务,直接进行驱动升级。 升级速度快,无需等待节点空闲。 |
适用场景 |
非紧急情况,逐步升级。 |
紧急情况,快速完成升级。 |
注意事项 |
需等待节点空闲,升级周期较长。在升级前,建议提前安排节点空闲时间,以减少对业务的影响。 |
可能导致正在运行的任务中断或失败。需谨慎使用,避免对业务造成影响。 |
约束限制
- Lite Cluster资源池状态处于运行中,且专属池中的节点需要含有GPU/Ascend资源。
- 升级需要重启节点,建议在低峰期进行,以避免影响正在运行的任务,可前往资源池详情页“节点管理”页面查看节点资源占用情况。
升级驱动会重启节点。如果主机进行过差异化配置,重启节点可能会导致配置丢失,需谨慎考虑。
升级Lite Cluster资源池GPU/Ascend驱动
- 登录ModelArts管理控制台,在左侧菜单栏中选择“资源管理 > 轻量算力集群(Lite Cluster)”。在资源池列表中,选择需要进行驱动升级的资源池“
> 驱动升级”。
或者在资源池列表单击资源池名称,进入资源池详情页,切换至“节点池管理”页签,单击节点池操作列“更多>驱动升级”。
图1 驱动升级 - 在“驱动升级”弹窗中,会显示当前Lite Cluster资源池的驱动类型、实例数、当前版本、目标版本、升级方式、升级范围和开启滚动开关。按表2设置驱动升级参数。
表2 驱动升级参数说明 参数
说明
目标版本
在目标版本下拉框中,选择当前驱动待升级的目标驱动版本。
对于资源池新增加的节点,可能会与资源池原有节点驱动不一致,为了保持驱动一致,目标版本可选择当前驱动版本,升级完成后所有节点驱动会升级为统一版本。
升级方式
可选择安全升级或强制升级,具体对比请见安全升级与强制升级对比。
- 安全升级:待节点上没有作业时再升级,该方式升级周期可能比较长。
- 强制升级:忽略运行中作业,直接升级,可能会导致运行中作业失败。
开启滚动
开启开关后,支持滚动升级的方式升级驱动。
滚动升级是一种逐步替换实例的升级方式,适用于需要保持服务连续性的场景。通过分批次升级实例,确保在升级过程中始终有部分实例正常运行,从而减少停机时间。
滚动驱动升级时,驱动异常的节点对升级无影响,会和驱动正常的节点一起升级。
滚动方式
当前支持“按节点比例”和“按实例数量”两种滚动方式。
- 按节点比例:每批次驱动升级的实例数量为“节点比例*资源池实例总数”。
- 按实例数量:每批次驱动升级的实例数量为设置的实例数量。
对于不同的升级方式,滚动升级选择节点的策略会不同:
- 如果“升级方式”为“安全升级”,则根据滚动实例数量选择无业务的节点,隔离节点并滚动升级。
无业务节点定义:在资源池详情“节点”页签下,如果GPU/Ascend的可用数等于总数,则为无业务节点。
- 如果“升级方式”为“强制升级”,则根据滚动实例数量随机选择节点,隔离节点并滚动升级。
节点比例
“滚动方式”选择“按节点比例”时,需要设置每批次驱动升级的实例数量比例,每批次驱动升级的实例数量为“节点比例*资源池实例总数”。
实例数
“滚动方式”选择“按实例数量”时,需要设置每批次驱动升级的实例数量。
图2 驱动升级 - 设置完成后,单击“确定”开始升级驱动。
在资源池列表中,选择目标资源池,单击操作列中的
,然后选择“驱动升级”。在弹出的“驱动升级”页面中,查看当前版本和目标版本是否一致。如果一致,说明驱动已成功升级。
常见问题
Cluster资源池节点故障如何定位?
对于ModelArts Lite资源池,每个节点会以DaemonSet方式部署node-agent组件,该组件会检测节点状态,并将检测结果写到K8S NodeCondition中。同时,节点故障指标默认会上报到AOM,您可在AOM配置告警通知。
详情请见Cluster资源池节点故障如何定位。