GPU计算型 GPU计算单元包含的计算资源主要适用于政企用户部署GPU密集型业务到CloudPond上使用的场景，对应华为云E CS 的实例包含Pi系列，用户可根据机型规格情况选择对应的计算资源商品。具体规格请参考表1。 表1 GPU计算单元 名称 算力配置 描述 GPU计算单元-汇聚型-2Pi2

查看更多 →

GPU虚拟化 GPU虚拟化概述 准备GPU虚拟化资源 使用GPU虚拟化 兼容Kubernetes默认GPU调度模式 父主题： GPU调度

查看更多 →

GPU虚拟化 GPU虚拟化概述 准备GPU虚拟化资源 创建GPU虚拟化应用 监控GPU虚拟化资源 父主题： 管理本地集群

查看更多 →

GPU虚拟化概述 UCS On Premises GPU采用xGPU虚拟化技术，能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。相对于静态分配来说，虚拟化的方案更加灵活，最大程度保证业务稳定的前提下，可以完全由用户定义使用的GPU数量，提高GPU利用率。

查看更多 →

设备。 init容器不支持使用GPU虚拟化资源。 GPU虚拟化支持显存隔离、显存与算力隔离两种隔离模式。单个GPU卡仅支持调度同一种隔离模式的工作负载。 使用GPU虚拟化后，不支持使用Autoscaler插件自动扩缩容GPU虚拟化节点。 XGPU服务的隔离功能不支持以UVM的方式申请显存，即调用CUDA

查看更多 →

GPU虚拟化概述 CCE GPU虚拟化采用自研xGPU虚拟化技术，能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。相对于静态分配来说，虚拟化的方案更加灵活，最大程度保证业务稳定的前提下，可以完全由用户自己定义使用的GPU量，提高GPU利用率。

查看更多 →

准备GPU虚拟化资源 CCE GPU虚拟化采用自研xGPU虚拟化技术，能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。本文介绍如何在GPU节点上实现GPU的调度和隔离能力。 前提条件 配置 支持版本 集群版本 v1.23.8-r0、v1.25

查看更多 →

开始执行批量计算前，请先创建资源池环境。 登录BCE控制台，在左侧导航栏单击“资源池管理”。 在“共享资源池”页签，单击“创建共享资源池”。 图1 创建共享资源池 在“创建共享资源池”页面中，填写基础信息，并选择资源池所在的命名空间，具体参数如表1所示。 表1 创建共享资源池 参数 说明

查看更多 →

1及以上版本 gpu-device-plugin插件：2.0.0及以上版本 步骤一：纳管并标记GPU节点 如果您的集群中已有符合基础规划的GPU节点，您可以跳过此步骤。 在集群中纳管支持GPU虚拟化的节点，具体操作步骤请参见纳管节点。 纳管成功后，给对应支持GPU虚拟化节点打上“accelerator:

查看更多 →

U显卡型号。 仅支持配置一致GPU使用模式，不支持混合配置虚拟化和非虚拟化模式。 使用GPU虚拟化后，该GPU节点不再支持调度使用共享GPU资源的工作负载。 通过控制台创建GPU虚拟化应用 登录UCS On Premises集群控制台。 单击集群名称进入集群，在左侧选择“工作负载”，在右上角单击“创建负载”。

查看更多 →

监控GPU虚拟化资源 本章介绍如何在UCS控制台界面查看GPU虚拟化资源的全局监控指标。 前提条件 完成GPU虚拟化资源准备。 当前本地集群内存在节点开启GPU虚拟化能力。 当前本地集群开启了监控能力。 GPU虚拟化监控 登录UCS控制台，在左侧导航栏选择“容器智能分析”。 选择

查看更多 →

arch String 计算机架构。 enable_gpu Boolean 是否使用GPU。 enable_npu Boolean 是否使用NPU。 memory Integer 内存大小。 gpu_info Array of GpuInfo objects GPU信息。 npu_info

查看更多 →

专属资源池为用户提供独立的计算集群、网络，不同用户间的专属资源池物理隔离，公共资源池仅提供逻辑隔离，专属资源池的隔离性、安全性要高于公共资源池。 专属资源池用户资源独享，在资源充足的情况下，作业是不会排队的；而公共资源池使用共享资源，在任何时候都有可能排队。 专属资源池支持打通用户的网络，在该专属资源

查看更多 →

GPU调度 GPU节点驱动版本 使用Kubernetes默认GPU调度 GPU虚拟化 监控GPU资源指标 基于GPU监控指标的工作负载弹性伸缩配置 GPU虚拟化节点弹性伸缩配置 GPU故障处理 父主题： 调度

查看更多 →

在AI开发时使用Standard资源池 ModelArts Standard资源池说明 在使用ModelArts进行AI开发时，您可以选择使用如下两种资源池： 专属资源池：专属资源池不与其他用户共享，资源更可控。在使用专属资源池之前，您需要先创建一个专属资源池，然后在AI开发过程中选择此专属资源池。 公共

查看更多 →

当前云容器实例提供“通用计算型”和“GPU加速型”两种类型的资源，创建命名空间时需要选择资源类型，后续创建的负载中容器就运行在此类型的集群上。 通用计算型：支持创建含CPU资源的容器实例，适用于通用计算场景。 GPU加速型：支持创建含GPU资源的容器实例，适用于深度学习、科学计算、视频处理等场景。

查看更多 →

用内存包括用户弹性 云服务器 中可使用的内存（即弹性云 服务器 规格所定义大小的内存）及为了管理该云服务器所需要消耗的DeC物理服务器的可用内存。管理该云服务器所需要消耗的DeC物理服务器可用内存通常约占弹性云服务器定义内存规格的1%~2%，该部分内存无法被弹性云服务器使用。 空闲：未被

查看更多 →

ond一体化机柜。 可用：表示已在用户数据中心部署CloudPond一体化机柜。 该状态下可以正常使用CloudPond创建和管理业务资源。 不可用：表示小站运行时出现故障，暂不可用。 请联系华为云运维团队进行联合定位和解决故障。 部署中：表示CloudPond一体化机柜正在用户数据中心进行部署中。

查看更多 →

相较于传统的批量计算服务，容器批量计算提供更易用、更优的调度、更完善的硬件生态、更极致的弹性能力。 更易用 编排可视化：编排可视，便于复杂任务流程的呈现、精细调整与管理，提供Argo/WDL/GCS三种工作流编排方式。 多集群混合调度：支持CCE、CCI作为集群资源池，并且支持不同资源池的混合调度。

查看更多 →

表1 规格说明 资源类型 规格 说明 计算资源 所有按需计费、包年/包月、套餐包中的计算资源规格，包括CPU、GPU和NPU 购买的所有类型的计算资源均不支持跨Region使用。 计算资源 套餐包 套餐包仅用于公共资源池，不能用于专属资源池。 配额限制 查看每个配额项目支持的默认

查看更多 →

隔离故障节点后，系统会在新的计算节点上重新创建训练作业。如果资源池规格紧张，重新下发的训练作业会以第一优先级进行排队。如果排队时间超过30分钟，训练任务会自动退出。该现象表明资源池规格任务紧张，训练作业无法正常启动，推荐您购买专属资源池补充计算节点。 如果您使用专属资源池创建训练作业，容错

查看更多 →