装，用于采集GPU指标。 DaemonSet GPU指标 关于GPU指标详情请参见GPU监控指标说明。 相关链接 启用dcgm-exporter组件后，如果需要将采集的GPU监控数据上报至AOM服务，请参见CCE AI套件（NVIDIA GPU）插件使用dcgm-exporter监控GPU指标。

查看更多 →

gen_collect_gpu_log_shell(self): collect_gpu_log_shell = "nvidia-bug-report.sh" return collect_gpu_log_shell def collect_gpu_log(self):

查看更多 →

是，该驱动版本与镜像可能存在兼容性问题，建议更换驱动版本，操作指导，请参考安装GPU驱动。 否，请执行下一步。 请尝试重启 云服务器 ，再执行nvidia-smi查看GPU使用情况，确认是否正常。 如果问题依然存在，请联系客服。 父主题： GPU驱动故障

查看更多 →

监控GPU资源指标 通过Prometheus和Grafana，可以实现对GPU资源指标的观测。本文以实际示例介绍如何通过Prometheus查看集群的GPU显存的使用。 本文将通过一个示例应用演示如何监控GPU资源指标，具体步骤如下： 访问Prometheus （可选）为Prom

查看更多 →

GPU设备检查 功能 检查节点是否存在gpu设备，gpu驱动是否安装且运行正常。 语法 edgectl check gpu 参数说明 无 使用示例 检查节点GPU设备： edgectl check gpu 检查成功返回结果： +-----------------------+ |

查看更多 →

准备GPU资源 本文介绍如何在使用GPU能力前所需要的基础软件、硬件规划与准备工作。 基础规划 配置 支持版本 集群版本 v1.25.15-r7及以上 操作系统 华为云欧拉操作系统 2.0 系统架构 X86 GPU类型 T4、V100 驱动版本 GPU虚拟化功能仅支持470.57

查看更多 →

com/gpu 指定申请GPU的数量，支持申请设置为小于1的数量，比如 nvidia.com/gpu: 0.5，这样可以多个Pod共享使用GPU。GPU数量小于1时，不支持跨GPU分配，如0.5 GPU只会分配到一张卡上。 指定nvidia.com/gpu后，在调度时不会将负载调

查看更多 →

监控GPU资源 本章介绍如何在U CS 控制台界面查看GPU资源的全局监控指标。 前提条件 完成GPU资源准备。 当前本地集群已创建GPU资源。 当前本地集群开启了监控能力。 GPU监控 登录UCS控制台，在左侧导航栏选择“容器智能分析”。 选择对应的集群并开启监控，详细操作请参照集群开启监控。

查看更多 →

计算公式：节点上容器显存使用总量/节点上显存总量 GPU卡-显存使用量 字节 显卡上容器显存使用总量 GPU卡-算力使用率 百分比 每张GPU卡的算力使用率 计算公式：显卡上容器算力使用总量/显卡的算力总量 GPU卡-温度 摄氏度 每张GPU卡的温度 GPU-显存频率 赫兹 每张GPU卡的显存频率 GPU卡-PCle带宽

查看更多 →

"name": "pytorch1.8-cuda10.2-cudnn7-ubuntu18.04", "resource_categories": [ "CPU", "GPU" ], "service_type": "COMMON", "status":

查看更多 →

硬盘 >= 1GB GPU（可选） 同一个边缘节点上的GPU型号必须相同。 说明： 当前支持Nvidia Tesla系列P4、P40、T4等型号GPU。 含有GPU硬件的机器，作为边缘节点的时候可以不使用GPU。 如果边缘节点使用GPU，您需要在纳管前安装GPU驱动。 目前只有使用

查看更多 →

loud-Init配合完成集中式裸金属 服务器 的网络配置，需要安装bms-network-config软件包的裸金属服务器规格如表1所示。分布式裸金属服务器（带SDI 3.0卡或SDI 2.2网络卡的机型）不需要执行此步骤。 表1 裸金属服务器规格 规格类型 规格名称 通用型 physical

查看更多 →

对于一些类型的弹性云服务器，如果使用私有镜像进行创建，需要在制作私有镜像时安装特殊驱动。 GPU驱动 如果这个私有镜像用于创建GPU加速型云服务器，需要在镜像中安装合适的GPU驱动来获得相应的GPU加速能力。GPU加速型实例中配备的NVIDIA Tesla GPU支持两种类型的驱动

查看更多 →

使用dcgm-exporter监控GPU指标 应用场景 集群中包含GPU节点时，需要了解GPU应用使用节点GPU资源的情况，例如GPU利用率、显存使用量、GPU运行的温度、GPU的功率等。在获取GPU监控指标后，用户可根据应用的GPU指标配置弹性伸缩策略，或者根据GPU指标设置告警规则。本文基于开源Prometheus和DCGM

查看更多 →

可根据实际需求选择将FTP配置为主动模式或者被动模式。如果华为云上的服务器需要通过公网IP地址访问华为云上的实例搭建的FTP服务器时，需要将FTP服务器配置为被动模式。 主动模式需要配置的参数如下： #设置以下参数，不允许匿名登录FTP服务器，允许本地用户登录FTP服务器，并指定FTP本地用户使用的文件目录。

查看更多 →

上报事件。 如果您的弹性云服务器未安装GPU驱动，可参见（推荐）自动安装GPU加速型ECS的GPU驱动（Windows）。 安装GPU驱动需使用默认路径。 GPU驱动安装完后，需重启GPU加速型实例，否则可能导致采集GPU指标及上报GPU事件失败。 GPU驱动正常安装后，最多10

查看更多 →

用于部署推理服务。 X86架构（CPU/GPU）的推理基础镜像 表1 TensorFlow AI引擎版本 支持的运行环境 镜像名称 URI 2.1.0 CPU GPU(cuda10.1) tensorflow_2.1.0-cuda_10.1-py_3.7-ubuntu_18.04-x86_64

查看更多 →

图1 GPU驱动不可用 可能原因 系统内核进行了升级，导致在新内核上，GPU驱动不可用。 问题排查 根据不同的系统在服务器中执行如下命令，查看安装驱动时的内核版本： CentOS：find /usr/lib/modules -name nvidia.ko Ubuntu：find

查看更多 →

GPU虚拟化 GPU虚拟化概述 准备GPU虚拟化资源 使用GPU虚拟化 兼容Kubernetes默认GPU调度模式 父主题： GPU调度

查看更多 →

云容器引擎CCE集群和gpu-beta插件推荐安装的NVIDIA GPU驱动，尚未出现在NVIDIA官方信息中。如果将来有新的官方信息变化，我们将及时跟进帮助您升级修复。 如果您是自行选择安装的NVIDIA GPU驱动或更新过节点上的GPU驱动，请参考上图确认您安装的GPU驱动是否受该漏洞影响。

查看更多 →

终止动态加速工具，应用优化结束。 命令格式：hce-wae --stop [PID] 动态应用加速工具字符交互界面 动态应用加速工具支持字符交互界面，交互界面支持指令如图1、图2和表1所示。 图1 动态应用加速工具启动界面 图2 动态应用加速工具帮助界面 表1 动态应用加速工具字符交互界面指令

查看更多 →