剩余显存资源是2G、4G、6G，有应用A 需要显存3G，则会调度到b显卡上。 当应用需要使用的GPU显存资源大于单个GPU卡显存时，支持以多显卡方式进行资源调度，调度时会占用完整显卡资源（剩余部分不能分给其他容器）。例如有三个显卡a、b、c，每个显卡显存资源是8G，剩余显存资源是8G、8G、6G，有应用B

查看更多 →

对存储I/O性能有极高要求的业务场景设计。本地盘与特定规格的云服务器绑定，不可单独购买，不可卸载并挂载到另一台云服务器上使用。 P1型云服务器配置的NVMe SSD本地盘有丢失数据的风险（比如NVMe SSD故障或宿主机故障时），强烈建议您在本地NVMe SSD磁盘中存放临时数据，如需存放重要数据，请做好数据备份。

查看更多 →

用户在Windows设备管理器显示适配器中查询显卡属性，发现设备状态中存在错误“由于该设备有问题，Windows已将其停止”。 判断方式 确认用户发生问题时的操作，是否有出现显存OOM。 如果用户使用的是vGPU实例，确认实例安装的驱动与主机的驱动版本是否匹配。 登录实例所在主机。 执行nvidia-smi命令，查看驱动版本，并对照版本配套关系。

查看更多 →

若nvidia-smi命令不存在或执行失败，有可能是驱动安装未就绪导致，可以重新安装GPU驱动后，再重试。 执行lspci | grep NVIDIA，观察执行结果中的设备ID。 比对上述两者结果，若存在不匹配的现象，收集两者输出结果，然后根据GPU设备所在的节点类型（ECS或BMS），联系对应的客服进行处理。

查看更多 →

2（20%），可能有如下情况： 在整个时间间隔内，有20%的SM的Tensor Core以100%的利用率运行。 在整个时间间隔内，有100%的SM的Tensor Core以20%的利用率运行。 在整个时间间隔的1/5时间内，有100%的SM上的Tensor Core以100%利用率运行。

查看更多 →

RTX5000：图形设计|16核|32GB内存|16G显存 A40：云工作站D7型|8核|32GB内存|4G显存 1 弹性公网IP 带宽费用: 独享 | 全动态BGP | 按带宽计费 | 10Mbit/s x2 1 PLM 弹性云服务器 ECS 通用计算增强型 c7.4xlarge.2

查看更多 →

每个节点的GPU虚拟化设备数量 节点-XGPU设备显存分配量 字节 每个节点上的GPU虚拟化设备显存总量 GPU卡-XGPU设备显存使用率 百分比 每张GPU卡上的GPU虚拟化设备显存使用率 计算公式：显卡上所有XGPU设备的显存使用量之和 / 显卡显存总量 GPU卡-XGPU设备显存分配量 字节 每张GPU卡上的GPU虚拟化设备的显存总量

查看更多 →

云服务器备份有配额限制吗？ 云服务器备份有配额限制，且受云硬盘备份的配额限制影响，云服务器备份会同时占用云硬盘备份的配额。当云硬盘备份的配额不足时，无法进行云服务器备份。 在进行云服务器备份时，系统会自动调整云硬盘备份配额，避免因配额不足导致备份失败。 限定配额仅仅是为了防止资源

查看更多 →

统。 推荐使用高性能计算型弹性云服务器，主要使用在受计算限制的高性能处理器的应用程序上，适合要求提供海量并行计算资源、高性能的基础设施服务，需要达到高性能计算和海量存储，对渲染的效率有一定保障的场景。 更多信息，请参见高性能计算型。 更多弹性云服务器的应用示例，请参见最佳实践-自助建站汇总。

查看更多 →

力总量 节点-显存使用量 字节 每个节点的显存使用量 节点-算力使用率 百分比 每个节点的算力使用率 计算公式：节点上容器算力使用总量/节点上算力总量 节点-显存使用率 百分比 每个节点的显存使用率 计算公式：节点上容器显存使用总量/节点上显存总量 GPU卡-显存使用量 字节 每张GPU的显存使用量

查看更多 →

配置工作负载信息。 在“容器配置>基本信息”中设置xGPU配额： 显存：显存值单位为MiB，需为正整数，且为128的倍数。若配置的显存超过单张GPU卡的显存，将会出现无法调度状况。 算力：算力值单位为%，需为5的倍数，且最大不超过100。 当显存设置为单张GPU卡的容量上限或算力设置为100%时，将会使用整张GPU卡。

查看更多 →

Premises提供的GPU虚拟化功能优势如下： 灵活：精细配置GPU算力占比及显存大小，算力分配粒度为5%GPU，显存分配粒度达MB级别。 隔离：支持显存和算力的严格隔离，支持单显存隔离，算力与显存同时隔离两类场景。 兼容：业务无需重新编译，无需进行CUDA库替换，对业务无感。

查看更多 →

Prometheus插件安装完成后会在集群中部署一系列工作负载和Service。其中Prometheus的Server端会在monitoring命名空间下以有状态工作负载进行部署。 您可以创建一个公网LoadBalancer类型Service，这样就可以从外部访问Prometheus。 登录CCE

查看更多 →

云耀云服务器L实例套餐有哪些？ 云耀云服务器L实例包含以下两种。 云耀组合套餐：包含基础套餐和高可用套餐。 应用镜像不支持高可用套餐。 云耀云服务器L实例套餐：根据需要可任意选择数据盘、主机安全、云备份附加服务。对于单个云耀云服务器L实例，每个附加服务只能购买一个。 峰值带宽表示

查看更多 →

计算公式：伸缩组中的所有云服务器（Agent）GPU使用率之和/伸缩组实例数 单位：百分比 0-100% 弹性伸缩组 1分钟 gpu_usage_mem （Agent）显存使用率 该指标用于统计弹性伸缩组的（Agent）显存使用率，以百分比为单位。 计算公式：伸缩组中的所有云服务器（Agent）显存使用率之和/伸缩组实例数

查看更多 →

GPU虚拟化的优势 CCE提供的GPU虚拟化功能优势如下： 灵活：精细配置GPU算力占比及显存大小，算力分配粒度为5%GPU，显存分配粒度达MB级别。 隔离：支持显存和算力的严格隔离，支持单显存隔离，算力与显存同时隔离两类场景。 兼容：业务无需重新编译，无需进行CUDA库替换，对业务无感。

查看更多 →

云服务器是否有图形界面？ Windows操作系统是桌面管理，Linux操作系统是命令行，用户如果需要可以自己设置图形管理。 弹性云服务器安装图形化界面前，请确保云服务器内存不小于2GB，否则可能出现图像化界面安装失败，或安装后无法启动的问题。 鲲鹏架构的弹性云服务器请先参考镜像源管理使用华为云提供的镜像源进行更新。

查看更多 →

单击集群名称进入集群，在左侧选择“工作负载”，在右上角单击“创建负载”。 配置工作负载信息。在“容器配置>基本信息”中设置GPU配额： 显存：显存值单位为Mi，需为正整数，若配置的显存超过单张GPU卡的显存，将会出现无法调度状况。 算力：算力值单位为%，需为5的倍数，且最大不超过100。 配置其余信息，完成后单击“创建”。

查看更多 →

gpuMemCapacity 显存容量 该指标用于统计测量对象的显存容量。 ≥0 兆字节（MB） gpuMemUsage gpuMemUsage 显存使用率 该指标用于统计测量对象已使用的显存占显存容量的百分比。 0～100 百分比（%） gpuMemUsed gpuMemUsed 显存使用量 该指标用于统计测量对象已使用的显存。

查看更多 →

0-100% 云服务器 云服务器 - NPU 1分钟 npu_freq_mem NPU显存频率 该指标用于统计该NPU的显存的时钟频率。 单位：兆赫兹（MHz）。 采集方式（Linux）：通过调用NPU卡的libdcmi.so库文件获取。 ≥ 0 云服务器 云服务器 - NPU 1分钟

查看更多 →

com/gpu配额（即配置nvidia.com/gpu为小数，例如0.5）时将通过虚拟化GPU提供，实现GPU显存隔离，按照设定值的百分比为容器分配GPU显存（例如分配0.5×16GiB=8GiB的GPU显存，该数值需为128MiB的整数倍否则会自动向下取整）。如果在开启兼容能力前工作负载中已经使用nvidia

查看更多 →