更新时间:2026-02-06 GMT+08:00
分享

在轻量算力集群启用紧凑型缩容功能

使用场景

Volcano 调度器支持紧凑型缩容功能,包括DIE亲和缩容和Binpack缩容,支持的工作负载类型包括Deployment和ReplicaSet。

DIE亲和缩容策略主要适用于ARM Snt3PD和Snt9c NPU场景。这类NPU的NPU卡由多个DIE芯片封装而成,相同NPU卡的多个DIE之间的带宽比跨DIE的带宽更高。基于这样的NPU设计,算法在缩容时优先考虑未占满单个NPU卡的所有DIE芯片的PodE,这就是DIE亲和缩容策略

Binpack缩容策略主要适用于x86 Snt3p-300i和ARM Snt3PD、Snt9b1、Snt9b2、Snt9b3、Snt9c NPU场景。该策略设计为优先回收集群中NPU资源占用率较低的节点上的Pod,以空余出完整的节点,从而减少集群中的空闲资源碎片提高资源利用率。这就是Binpack缩容策略

ModelArts 轻量算力集群通过CCE Volcano调度器实现了DIE亲和缩容和Binpack缩容功能,配置的 CCE Volcano 紧凑型缩容功能参数如下:

  • enable_scale_in_score:true,开启紧凑型缩容功能。
  • scale_in_priority:die,缩容时优先双DIE亲和缩容,再次是Binpack缩容。
  • workload_balancer_score_annotation_key:controller.kubernetes.io/pod-deletion-cost,表示用于Pod缩容分值注解的名称,Volcano调度器将在此注解中写入计算得到的Pod得分。工作负载缩容时,根据各Pod缩容分值注解上的得分,判断缩容优先级。

Volcano 调度器紧凑型缩容功能支持的工作负载类型包括Deployment和ReplicaSet,如果希望第三方负载支持紧凑型缩容,可参考CCE Volcano调度-应用紧凑型缩容功能:应用紧凑型缩容功能

对于包含x86 Snt3p-300i和ARM Snt3PD、Snt9b1、Snt9b2、Snt9b3、Snt9c NPU的轻量算力集群,ModelArts会自动安装Volcano插件,用户无需手动安装。

查看详情

  1. 登录ModelArts管理控制台,在左侧菜单栏中选择“资源管理 > 轻量算力资源 > 轻量算力集群”(旧版控制台:资源管理 > 轻量算力集群
  2. 在轻量算力集群列表单击资源池名称,进入资源池详情页,支持紧凑型缩容的资源规格见表1 支持紧凑缩容资源规格
  3. 在资源池详情页,单击左侧的导航栏“插件”,进入插件详情页面。
  4. 查看已安装插件中的“Volcano调度器”,确保版本大于等于1.19.13,如果版本低于1.19.13,请单击“升级”,选择1.19.13版本并确认升级。
  5. “Volcano调度器”插件版本大于等于1.19.13且状态为运行中,轻量算力集群即启用紧凑型缩容功能成功。
表1 支持紧凑缩容资源规格

节点类型

资源类型

CPU架构

实例规格类型

实例规格

超节点

裸金属服务器

ARM

NPU

NPU/GPU(卡) - ascend-snt9c

普通节点、整柜节点

裸金属服务器

ARM

NPU

NPU/GPU(卡) - Snt9b1、Snt9b2、Snt9b3

普通节点

裸金属服务器、弹性云服务器

ARM

NPU

NPU/GPU(卡) - Snt3PD

普通节点

裸金属服务器、弹性云服务器

x86

NPU

NPU/GPU(卡) - ascend-snt3p-300i

相关文档