在轻量算力集群启用紧凑型缩容功能
使用场景
Volcano 调度器支持紧凑型缩容功能,包括DIE亲和缩容和Binpack缩容,支持的工作负载类型包括Deployment和ReplicaSet。
DIE亲和缩容策略主要适用于ARM Snt3PD和Snt9c NPU场景。这类NPU的NPU卡由多个DIE芯片封装而成,相同NPU卡的多个DIE之间的带宽比跨DIE的带宽更高。基于这样的NPU设计,算法在缩容时优先考虑未占满单个NPU卡的所有DIE芯片的PodE,这就是DIE亲和缩容策略。
Binpack缩容策略主要适用于x86 Snt3p-300i和ARM Snt3PD、Snt9b1、Snt9b2、Snt9b3、Snt9c NPU场景。该策略设计为优先回收集群中NPU资源占用率较低的节点上的Pod,以空余出完整的节点,从而减少集群中的空闲资源碎片提高资源利用率。这就是Binpack缩容策略。
ModelArts 轻量算力集群通过CCE Volcano调度器实现了DIE亲和缩容和Binpack缩容功能,配置的 CCE Volcano 紧凑型缩容功能参数如下:
- enable_scale_in_score:true,开启紧凑型缩容功能。
- scale_in_priority:die,缩容时优先双DIE亲和缩容,再次是Binpack缩容。
- workload_balancer_score_annotation_key:controller.kubernetes.io/pod-deletion-cost,表示用于Pod缩容分值注解的名称,Volcano调度器将在此注解中写入计算得到的Pod得分。工作负载缩容时,根据各Pod缩容分值注解上的得分,判断缩容优先级。
Volcano 调度器紧凑型缩容功能支持的工作负载类型包括Deployment和ReplicaSet,如果希望第三方负载支持紧凑型缩容,可参考CCE Volcano调度-应用紧凑型缩容功能:应用紧凑型缩容功能。
对于包含x86 Snt3p-300i和ARM Snt3PD、Snt9b1、Snt9b2、Snt9b3、Snt9c NPU的轻量算力集群,ModelArts会自动安装Volcano插件,用户无需手动安装。
查看详情
- 登录ModelArts管理控制台,在左侧菜单栏中选择“资源管理 > 轻量算力资源 > 轻量算力集群”(旧版控制台:)。
- 在轻量算力集群列表单击资源池名称,进入资源池详情页,支持紧凑型缩容的资源规格见表1 支持紧凑缩容资源规格。
- 在资源池详情页,单击左侧的导航栏“插件”,进入插件详情页面。
- 查看已安装插件中的“Volcano调度器”,确保版本大于等于1.19.13,如果版本低于1.19.13,请单击“升级”,选择1.19.13版本并确认升级。
- “Volcano调度器”插件版本大于等于1.19.13且状态为运行中,轻量算力集群即启用紧凑型缩容功能成功。