安装nvidia-fabricmanager服务 A100/A800 GPU支持 NvLink & NvSwitch，若您使用多GPU卡的机型，需额外安装与驱动版本对应的nvidia-fabricmanager服务使GPU卡间能够互联，否则可能无法正常使用GPU实例。 本文以驱动版本470.103

查看更多 →

如何避免非GPU/NPU负载调度到GPU/NPU节点？ 问题现象 当集群中存在GPU/NPU节点和普通节点混合使用的场景时，普通工作负载也可以调度到GPU/NPU节点上，可能出现GPU/NPU资源未充分利用的情况。 问题原因 由于GPU/NPU节点同样提供CPU、内存资源，在一般

查看更多 →

当前云硬盘EVS采用三副本机制进行分布式部署，暂不支持其他部署模式。 暂不支持对EVS执行如下操作：备份，加密等。 当前云硬盘服务的块存储快照仅支持保存在边缘云本地。 虚拟私有云VPC 两个边缘小站的不同VPC，不支持通过VPC对等连接进行互通。 同一个VPC中，归属于不同边缘小站（即分布于不同边缘可用区）的子网不互通。

查看更多 →

选择GPU节点驱动版本 使用GPU加速型 云服务器 时，需要安装正确的Nvidia基础设施软件，才可以使用GPU实现计算加速功能。在使用GPU前，您需要根据GPU型号，选择兼容配套软件包并安装。 本文将介绍如何选择GPU节点的驱动版本及配套的CUDA Toolkit。 如何选择GPU节点驱动版本

查看更多 →

业务可以容忍GPU冷启动耗时，或者业务流量波形对应的冷启动概率低。 功能优势 函数计算为准实时推理工作负载提供以下功能优势： 原生Serverless使用方式 函数计算平台默认提供的按量GPU实例使用方式，会自动管理GPU计算资源。根据业务的请求数量，自动弹性GPU实例，最低0个实例，最大可配置实例数量。

查看更多 →

动的问题。 鲲鹏架构的弹性云 服务器 请先参考如何使用自动化工具配置华为云镜像源(x86_64和ARM)？使用华为云提供的镜像源进行更新。 GPU加速型弹性云服务器需要安装正确的GPU驱动，详细内容，请参考GPU驱动概述。 安装图形化界面 登录弹性云服务器，运行如下命令安装图形化界面。

查看更多 →

资源和成本规划内容说明 产品名称 华为云配置详情 云服务规格 数量 CAD 云桌面 GPU加速型|g5r.4xlarge.2|16vCPUs|32GiB40GB通用型SSD RTX5000：图形设计|16核|32GB内存|16G显存 A40：云工作站D7型|8核|32GB内存|4G显存

查看更多 →

GPU A系列裸金属服务器没有任务，GPU被占用问题 问题现象 服务器没有任务，但GPU显示被占用。 图1 显卡运行状态 处理方法 nvidia-smi -pm 1 父主题： FAQ

查看更多 →

选择应用所属的虚拟私有云、子网等信息。 您可以选择使用已有的虚拟私有云，或者创建新的虚拟私有云。更多关于虚拟私有云的信息，请参见《虚拟私有云用户指南》。 - 安全组 需要设置安全组规则，参考“会话数”中所需端口号放通对应TCP或UDP端口。安全组配置方法，请参见添加安全组规则。 需选择

查看更多 →

资源和成本规划内容说明 维度 说明 资源规划 环境搭建需要使用的云服务，以及第三方软件等资源的规划情况 对于云服务的数量、规格、性能等重要参数配置要求等关键信息，均需要提供。 涉及到第三方软件，需要提供详细的软件版本说明。 成本规划 提供解决方案实践中所需云资源的成本说明供用户参考， 提供免责声明，告

查看更多 →

采集方式（Windows）：通过调用GPU卡的nvml.dll库获取。 0-100% 云服务器 云服务器 - GPU 1分钟 gpu_usage_gpu (Agent) GPU使用率 该指标用于统计测量对象当前的GPU使用率。 单位：百分比 采集方式（Linux）：通过调用GPU卡的libnvidia-ml

查看更多 →

GPU卡-XGPU设备显存分配率 百分比 每张GPU卡上的GPU虚拟化设备的显存总量占这张GPU卡显存总量的比例 计算公式：显卡上所有XGPU设备能使用的显存上限之和 / 显卡显存总量 GPU卡-XGPU设备算力使用率 百分比 每张GPU卡的GPU虚拟化设备的算力使用率 计算公

查看更多 →

nvidia-smi: command not found 可能原因 云服务器驱动异常、没有安装驱动或者驱动被卸载。 处理方法 如果未安装GPU驱动，请重新安装GPU驱动。 操作指导请参考：安装GPU驱动 如果已安装驱动，但是驱动被卸载。 执行history，查看是否执行过卸载操作。

查看更多 →

通过nvidia.com/gpu指定申请GPU的数量，支持申请设置为小于1的数量，比如nvidia.com/gpu: 0.5，这样可以多个Pod共享使用GPU。GPU数量小于1时，不支持跨GPU分配，如0.5 GPU只会分配到一张卡上。 使用nvidia.com/gpu参数指定GPU数量时，re

查看更多 →

创建一个默认安全组，默认安全组的规则是在出方向上的数据报文全部放行，入方向访问受限，安全组内的云服务器无需添加规则即可互相访问。默认安全组您可以直接使用，详情请参见默认安全组和规则。 云上一分钟，了解什么是安全组。 安全组需在网络互通的情况下生效。若实例属于不同VPC，但同属于一

查看更多 →

到GPU。 处理方法 根据报错提示，请您排查代码，是否已添加以下配置，设置该程序可见的GPU： os.environ['CUDA_VISIBLE_DEVICES'] = '0,1,2,3,4,5,6,7' 其中，0为服务器的GPU编号，可以为0，1，2，3等，表明对程序可见的GP

查看更多 →

选择的节点数一致，每个worker将被分配到所选规格对应的计算资源。例如计算节点个数为“2”时，将启动2个worker，每个worker拥有“GPU: 8*GP-Vnt1 | CPU: 72核 | 内存：512GB”的计算资源。 网络通信介绍 单机作业不涉及网络通信情况。 分布式

查看更多 →

准备GPU虚拟化资源 CCE GPU虚拟化采用自研xGPU虚拟化技术，能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。本文介绍如何在GPU节点上实现GPU的调度和隔离能力。 前提条件 配置 支持版本 集群版本 v1.23.8-r0、v1.25

查看更多 →

pci_passthrough:gpu_specs String G1型和G2型云服务器应用的技术，包括GPU虚拟化和GPU直通。 如果该规格的云服务器使用GPU虚拟化技术，且GPU卡的型号为M60-1Q，参数值为“m60_1q:virt:1”。 如果该规格的云服务器使用GPU直通技术，且GPU卡的型号

查看更多 →

bash mirrors_source.sh 更多内容，请参见如何使用自动化工具配置华为云镜像源(x86_64和ARM)？ 执行以下命令，安装lspci工具。 CentOS系统： yum install pciutils Ubuntu系统： apt install pciutils

查看更多 →

当用户账号余额不足造成扣费失败时，账号将变成欠费状态。 欠费后，按需资源不会立即停止服务，资源进入宽限期。如果在宽限期内仍未支付欠款，那么付费资源（如计算规格、OBS桶）、等都将被冻结，资源进入保留期。保留期的资源不支持任何操作。如果用户在宽限期内充值，则华为云会自动扣取欠费金额（含宽限期内产生的费用） 保留期到

查看更多 →