该指标用于统计ModelArts用户服务的GPU使用情况。 单位：百分比。 ≥ 0% ModelArts模型负载 1分钟 gpu_mem_usage GPU显存使用率 该指标用于统计ModelArts用户服务的GPU显存使用情况。 单位：百分比。 ≥ 0% ModelArts模型负载

查看更多 →

分比（Percent）。 MEM：物理内存使用率（memUsage）百分比（Percent）。 GPU：GPU使用率（gpuUtil）百分比（Percent）。 GPU_MEM：显存使用率（gpuMemUsage）百分比（Percent）。 父主题： 查看作业详情

查看更多 →

GPU计算型 GPU计算单元包含的计算资源主要适用于政企用户部署GPU密集型业务到CloudPond上使用的场景，对应华为云E CS 的实例包含Pi系列，用户可根据机型规格情况选择对应的计算资源商品。具体规格请参考表1。 表1 GPU计算单元 名称 算力配置 描述 GPU计算单元-汇聚型-2Pi2

查看更多 →

GPU相关问题 日志提示"No CUDA-capable device is detected" 日志提示“RuntimeError: connect() timed out” 日志提示“cuda runtime error (10) : invalid device ordinal

查看更多 →

String 该规格的GPU卡信息。 name：GPU名称 memory_mb：GPU显存大小 count：GPU显卡数量 alias_prefix：GPU显卡内部别名 info:asic_accelerators String 该规格的加速器信息。 name：加速器名称 memory_mb：加速器显存大小

查看更多 →

对接高显存应用退出广播 功能介绍 云手机 服务器 显卡的显存占用过高，可能导致应用渲染卡顿，为了防止显存占用过高，系统会在显存占用过高时，对显存占用高的应用进行查杀；为了使得用户感知到应用被查杀的动作，系统查杀应用后会发送广播进行通知。 广播信息 广播action：android.intent

查看更多 →

error较多，继续诊断是否达到换卡条件： 执行nvidia-smi –r命令，重置GPU。 执行nvidia-smi --query-retired-pages=gpu_name,gpu_bus_id,gpu_serial,retired_pages.cause,retired_pages

查看更多 →

版本配套关系：https://docs.nvidia.com/grid/index.html 处理方法 重启GPU弹性 云服务器 。 若显示适配器恢复正常，则恢复完成。 若仍异常，则执行下一步。 请尝试重装GPU驱动或升级驱动版本。请参考安装GPU驱动。 如果用户使用的是vGPU实例，且实例驱动版本与主机版本不匹配，请重装版本匹配的驱动软件。

查看更多 →

管理GPU加速型ECS的GPU驱动 GPU驱动概述 Tesla驱动及CUDA工具包获取方式 （推荐）自动安装GPU加速型ECS的GPU驱动（Linux） （推荐）自动安装GPU加速型ECS的GPU驱动（Windows） 手动安装GPU加速型ECS的GRID驱动 手动安装GPU加速型ECS的Tesla驱动

查看更多 →

是，该驱动版本与镜像可能存在兼容性问题，建议更换驱动版本，操作指导，请参考安装GPU驱动。 否，请执行下一步。 请尝试重启云服务器，再执行nvidia-smi查看GPU使用情况，确认是否正常。 如果问题依然存在，请联系客服。 父主题： GPU驱动故障

查看更多 →

工作负载异常：GPU节点部署服务报错 问题现象 在CCE集群的GPU节点上部署服务出现如下问题： 容器无法查看显存。 部署了7个GPU服务，有2个是能正常访问的，其他启动时都有报错。 2个是能正常访问的CUDA版本分别是10.1和10.0 其他服务CUDA版本也在这2个范围内 在

查看更多 →

GPU驱动故障 G系列弹性云服务器GPU驱动故障 GPU驱动异常怎么办？ GPU驱动不可用 GPU设备显示异常 T4 GPU设备显示异常 GPU实例启动异常，查看系统日志发现NVIDIA驱动空指针访问怎么办？

查看更多 →

GPU设备检查 功能 检查节点是否存在gpu设备，gpu驱动是否安装且运行正常。 语法 edgectl check gpu 参数说明 无 使用示例 检查节点GPU设备： edgectl check gpu 检查成功返回结果： +-----------------------+ |

查看更多 →

准备GPU资源 本文介绍如何在使用GPU能力前所需要的基础软件、硬件规划与准备工作。 基础规划 配置 支持版本 集群版本 v1.25.15-r7及以上 操作系统 华为云欧拉操作系统 2.0 系统架构 X86 GPU类型 T4、V100 驱动版本 GPU虚拟化功能仅支持470.57

查看更多 →

监控GPU资源 本章介绍如何在UCS控制台界面查看GPU资源的全局监控指标。 前提条件 完成GPU资源准备。 当前本地集群已创建GPU资源。 当前本地集群开启了监控能力。 GPU监控 登录UCS控制台，在左侧导航栏选择“容器智能分析”。 选择对应的集群并开启监控，详细操作请参照集群开启监控。

查看更多 →

cce_gpu_memory_total gpu显存总量 cce_gpu_memory_free gpu显存空闲量 cce_gpu_bar1_memory_used gpu bar1 内存使用量 cce_gpu_bar1_memory_total gpu bar1 内存总量 cce_gpu_clock gpu时钟频率

查看更多 →

Blacklist为Yes，说明存在待隔离页，需要重新加载驱动去隔离。 处理方法 方法一： 执行以下命令，查看GPU使用情况并停掉所有占用GPU的进程。 nvidia-smi 执行以下命令，重置GPU。 nvidia-smi -r 执行以下命令，查看是否存在待隔离页。 nvidia-smi -q

查看更多 →

GPU虚拟化 GPU虚拟化概述 准备GPU虚拟化资源 使用GPU虚拟化 兼容Kubernetes默认GPU调度模式 父主题： GPU调度

查看更多 →

序列说明 基于vLLM（v0.6.0）部署推理服务时，不同模型推理支持的最小昇腾卡数和对应卡数下的max-model-len长度说明，如下面的表格所示。 以下值是在gpu-memory-utilization为0.9时测试得出，为服务部署所需的最小昇腾卡数及该卡数下推荐的最大ma

查看更多 →

序列说明 基于vLLM（v0.5.0）部署推理服务时，不同模型推理支持的最小昇腾卡数和对应卡数下的max-model-len长度说明，如下面的表格所示。 以下值是在gpu-memory-utilization为0.9时测试得出，为服务部署所需的最小昇腾卡数及该卡数下推荐的最大ma

查看更多 →

（推荐）自动安装GPU加速型ECS的GPU驱动（Linux） 操作场景 在使用GPU加速型实例时，需确保实例已安装GPU驱动，否则无法获得相应的GPU加速能力。 本节内容介绍如何在GPU加速型Linux实例上通过脚本自动安装GPU驱动。 使用须知 本操作仅支持Linux操作系统。

查看更多 →