附录：大模型推理常见问题 问题1：在推理预测过程中遇到NPU out of memory 解决方法：调整推理服务启动时的显存利用率，将--gpu-memory-utilization的值调小。 问题2：在推理预测过程中遇到ValueError:User-specified max_model_len

查看更多 →

弹性伸缩组 1分钟 gpu_usage_gpu （Agent）GPU使用率 该指标用于统计弹性伸缩组的（Agent）GPU使用率，以百分比为单位。 计算公式：伸缩组中的所有 云服务器 （Agent）GPU使用率之和/伸缩组实例数 单位：百分比 0-100% 弹性伸缩组 1分钟 gpu_usage_mem

查看更多 →

（推荐）GPU加速型实例自动安装GPU驱动（Linux） 操作场景 在使用GPU加速型实例时，需确保实例已安装GPU驱动，否则无法获得相应的GPU加速能力。 本节内容介绍如何在GPU加速型Linux实例上通过脚本自动安装GPU驱动。 使用须知 本操作仅支持Linux操作系统。 本操作当前仅支持安装Tesla驱动。

查看更多 →

是，该驱动版本与镜像可能存在兼容性问题，建议更换驱动版本，操作指导，请参考安装GPU驱动。 否，请执行下一步。 请尝试重启云 服务器 ，再执行nvidia-smi查看GPU使用情况，确认是否正常。 如果问题依然存在，请联系客服。 父主题： GPU驱动故障

查看更多 →

String 该规格的GPU卡信息。 name：GPU名称 memory_mb：GPU显存大小 count：GPU显卡数量 alias_prefix：GPU显卡内部别名 info:asic_accelerators String 该规格的加速器信息。 name：加速器名称 memory_mb：加速器显存大小

查看更多 →

SSD 2 x 2*10GE GPU加速型 GPU加速型实例包括计算加速型（P系列）和图形加速型（G系列），提供优秀的浮点计算能力，从容应对高实时、高并发的海量计算场景。特别适合于深度学习、科学计算、CAE、3D动画渲染、CAD等应用。 表5 GPU加速型规格详情 规格名称/ID CPU

查看更多 →

产品名称 华为云配置详情 云服务规格 数量 CAD 云桌面 GPU加速型|g5r.4xlarge.2|16vCPUs|32GiB40GB通用型SSD RTX5000：图形设计|16核|32GB内存|16G显存 A40：云工作站D7型|8核|32GB内存|4G显存 1 弹性公网IP 带宽费用:

查看更多 →

GPU虚拟化 GPU虚拟化概述 准备GPU虚拟化资源 使用GPU虚拟化 兼容Kubernetes默认GPU调度模式 父主题： GPU调度

查看更多 →

（推荐）GPU加速型实例自动安装GPU驱动（Windows） 操作场景 在使用GPU加速型实例时，需确保实例已安装GPU驱动，否则无法获得相应的GPU加速能力。 本节内容介绍如何在GPU加速型Windows实例上通过脚本自动安装GPU驱动。 使用须知 如果GPU加速型实例已安装G

查看更多 →

GPU虚拟化 GPU虚拟化概述 准备GPU虚拟化资源 创建GPU虚拟化应用 监控GPU虚拟化资源 父主题： 管理本地集群

查看更多 →

程制图。 推荐使用GPU加速型弹性云服务器，基于NVIDIA Tesla M60硬件虚拟化技术，提供较为经济的图形加速能力。能够支持DirectX、OpenGL，可以提供最大显存1GiB、分辨率为4096×2160的图形图像处理能力。 更多信息，请参见GPU加速型。 数据分析 处

查看更多 →

暂不支持CCE纳管后的GPU加速型实例。 前提条件 已安装GPU驱动，未安装lspci工具的云服务器影响GPU掉卡事件的上报。 如果您的弹性云服务器未安装GPU驱动，请参见GPU驱动概述安装GPU驱动。 安装GPU驱动需使用默认路径。 GPU驱动安装完后，需重启GPU加速型实例，否则可能

查看更多 →

方法一：重新启动，选择安装GPU驱动时的内核版本，即可使用GPU驱动。 在云服务器操作列下单击“远程登录 > 立即登录”。 单击远程登录操作面板上方的“发送CtrlAltDel”按钮，重启虚拟机。 然后快速刷新页面，按上下键，阻止系统继续启动，选择安装GPU驱动时的内核版本进入系统

查看更多 →

怎样查看GPU加速型云服务器的GPU使用率？ 问题描述 Windows Server 2012和Windows Server 2016操作系统的GPU加速型云服务器无法从任务管理器查看GPU使用率。 本节操作介绍了两种查看GPU使用率的方法，方法一是在cmd窗口执行命令查看GPU使用

查看更多 →

CPU算力增强型，适用于密集计算场景下运算 GPU规格 “GPU: 1*Vnt1(32GB)|CPU: 8 核 64GB”：GPU单卡规格，32GB显存，适合深度学习场景下的算法训练和调测 “GPU: 1*Tnt004(16GB)|CPU: 8核* 32GB”： GPU单卡规格，16GB显存，推理计算最佳选

查看更多 →

cpuUsage（CPU使用率）、memUsage（物理内存使用率）、gpuUtil（GPU使用率）、gpuMemUsage（显存使用率）、npuUtil（NPU使用率）、npuMemUsage（NPU显存使用率）。 value Array of numbers 运行指标对应数值，1min统计一个平均值。

查看更多 →

使用dcgm-exporter监控GPU指标 应用场景 集群中包含GPU节点时，需要了解GPU应用使用节点GPU资源的情况，例如GPU利用率、显存使用量、GPU运行的温度、GPU的功率等。在获取GPU监控指标后，用户可根据应用的GPU指标配置弹性伸缩策略，或者根据GPU指标设置告警规则。本文基于开源Prometheus和DCGM

查看更多 →

cpuUsage：CPU使用率 memUsage：物理内存使用率 gpuUtil：GPU使用率 gpuMemUsage：显存使用率 npuUtil：NPU使用率 npuMemUsage：NPU显存使用率 value Array of doubles 运行指标对应数值，1min统计一个平均值。

查看更多 →

使用Kubernetes默认GPU调度 GPU虚拟化 GPU虚拟化能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。相对于静态分配来说，虚拟化的方案更加灵活，最大程度保证业务稳定的前提下，可以完全由用户自己定义使用的GPU量，提高GPU利用率。 GPU虚拟化 NPU调度

查看更多 →

安装并配置GPU驱动 背景信息 对于使用GPU的边缘节点，在纳管边缘节点前，需要安装并配置GPU驱动。 IEF当前支持Nvidia Tesla系列P4、P40、T4等型号GPU，支持CUDA Toolkit 8.0至10.0版本对应的驱动。 操作步骤 安装GPU驱动。 下载GPU驱动，推荐驱动链接：

查看更多 →

安装并配置GPU驱动 背景信息 对于使用GPU的边缘节点，在纳管边缘节点前，需要安装并配置GPU驱动。 IEF当前支持Nvidia Tesla系列P4、P40、T4等型号GPU，支持CUDA Toolkit 8.0至10.0版本对应的驱动。 操作步骤 安装GPU驱动。 下载GPU驱动，推荐驱动链接：

查看更多 →