怎样查看GPU加速型 云服务器 的GPU使用率？ 问题描述 Windows Server 2012和Windows Server 2016操作系统的GPU加速型云 服务器 无法从任务管理器查看GPU使用率。 本节操作介绍了两种查看GPU使用率的方法，方法一是在cmd窗口执行命令查看GPU使用

查看更多 →

Agent支持的指标列表 支持GPU监控的环境约束 BMS硬件监控指标采集说明 什么是插件修复配置？ 怎样让新购E CS 实例中带有操作系统监控功能？ Agent各种状态说明及异常状态处理方法 基础监控与操作系统监控数据出现不一致的问题 云监控服务统计的弹性云服务器网络流量与云主机系统内工具检测不一致的问题

查看更多 →

通过nvidia.com/gpu指定申请GPU的数量，支持申请设置为小于1的数量，比如nvidia.com/gpu: 0.5，这样可以多个Pod共享使用GPU。GPU数量小于1时，不支持跨GPU分配，如0.5 GPU只会分配到一张卡上。 使用nvidia.com/gpu参数指定GPU数量时，re

查看更多 →

选择GPU节点驱动版本 使用GPU加速型云服务器时，需要安装正确的Nvidia基础设施软件，才可以使用GPU实现计算加速功能。在使用GPU前，您需要根据GPU型号，选择兼容配套软件包并安装。 本文将介绍如何选择GPU节点的驱动版本及配套的CUDA Toolkit。 如何选择GPU节点驱动版本

查看更多 →

物理机或其他公有云主机迁移至华为云ECS 简介 当您需要实现物理机的上云迁移，把物理机迁移至华为云ECS；或者把其他公有云主机迁移至华为云ECS时，可以采用主机迁移服务实现源端服务器到华为云ECS的快速迁移。本文主要介绍将物理机或其他公有云主机迁移至华为云ECS的迁移场景和操作步骤。

查看更多 →

查询Flexus L实例 云主机详情 功能介绍 根据云主机ID查询云主机的详细信息，包括云主机的运行状态、云主机名称、公网IP等，所用接口为ECS的“查询云服务器详情”接口。该接口支持查询云主机计费方式，以及是否被冻结。本节列举了接口使用过程中的关键信息，接口更多信息详见查询云服务器详情。 Flexus

查看更多 →

到GPU。 处理方法 根据报错提示，请您排查代码，是否已添加以下配置，设置该程序可见的GPU： os.environ['CUDA_VISIBLE_DEVICES'] = '0,1,2,3,4,5,6,7' 其中，0为服务器的GPU编号，可以为0，1，2，3等，表明对程序可见的GP

查看更多 →

准备GPU虚拟化资源 CCE GPU虚拟化采用自研xGPU虚拟化技术，能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。本文介绍如何在GPU节点上实现GPU的调度和隔离能力。 前提条件 配置 支持版本 集群版本 v1.23.8-r0、v1.25

查看更多 →

执行以下命令，查看安装结果。 lspci -d 10de: 图1 安装结果 GPU指标采集需要依赖以下驱动文件，请检查环境中对应的驱动文件是否存在。如果驱动未安装，可参见（推荐）GPU加速型实例自动安装GPU驱动（Linux）。 Linux驱动文件 nvmlUbuntuNvidiaLibraryPath

查看更多 →

应用GPU资源调度方式 IEF支持多应用共享的方式使用GPU显卡。 IEF支持单个应用使用多个GPU显卡。 GPU资源调度基于GPU显存容量，调度采用GPU显存预分配方式而非实时GPU显存资源。 当应用需要使用的GPU显存资源小于单个GPU卡显存时，支持以共享方式进行资源调度，对

查看更多 →

GPU实例故障自诊断 GPU实例故障，如果已安装GPU监控的CES Agent，当GPU服务器出现异常时则会产生事件通知，可以及时发现问题避免造成用户损失。如果没有安装CES Agent，只能依赖用户对故障的监控情况，发现故障后及时联系技术支持处理。 GPU实例故障处理流程 GPU实例故障分类列表

查看更多 →

CCE AI套件（NVIDIA GPU） 插件介绍 CCE AI套件（NVIDIA GPU）插件是支持在容器中使用GPU显卡的设备管理插件，集群中使用GPU节点时必须安装本插件。 字段说明 表1 参数描述 参数 是否必选 参数类型 描述 basic 是 object 插件基础配置参数。

查看更多 →

/nvidia-smi 若能正常返回GPU信息，说明设备可用，插件安装成功。 GPU驱动支持列表 当前GPU驱动支持列表仅针对1.2.28及以上版本的GPU插件。 如果您需要安装最新版本的GPU驱动，请将您的GPU插件升级到最新版本。 表2 GPU驱动支持列表 GPU型号 支持集群类型 机型规格

查看更多 →

GPU插件检查异常处理 检查项内容 检查到本次升级涉及GPU插件，可能影响新建GPU节点时GPU驱动的安装。 解决方案 由于当前GPU插件的驱动配置由您自行配置，需要您验证两者的兼容性。建议您在测试环境验证安装升级目标版本的GPU插件，并配置当前GPU驱动后，测试创建节点是否正常使用。

查看更多 →

GPU虚拟化概述 CCE GPU虚拟化采用自研xGPU虚拟化技术，能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。相对于静态分配来说，虚拟化的方案更加灵活，最大程度保证业务稳定的前提下，可以完全由用户自己定义使用的GPU量，提高GPU利用率。

查看更多 →

安装nvidia-fabricmanager服务 A100/A800 GPU支持 NvLink & NvSwitch，若您使用多GPU卡的机型，需额外安装与驱动版本对应的nvidia-fabricmanager服务使GPU卡间能够互联，否则可能无法正常使用GPU实例。 本文以驱动版本470.103

查看更多 →

API参考 华为云Flexus云服务部分产品提供API方式供您灵活使用该产品，本文介绍API文档索引。 产品类型 常用接口 文档索引 Flexus应用服务器L实例 查询云主机详情 批量启动云主机 批量重启云主机 批量关闭云主机 批量重置云主机密码 修改云主机信息 Flexus L实例API参考

查看更多 →

如何避免非GPU/NPU负载调度到GPU/NPU节点？ 问题现象 当集群中存在GPU/NPU节点和普通节点混合使用的场景时，普通工作负载也可以调度到GPU/NPU节点上，可能出现GPU/NPU资源未充分利用的情况。 问题原因 由于GPU/NPU节点同样提供CPU、内存资源，在一般

查看更多 →

工具连接L实例云主机的方法请参考如下ECS指导，该指导同样适用于L实例的云主机： 远程登录Linux弹性云服务器（通过移动设备）。 下载华为云APP连接L实例云主机的方法请参考如下ECS指导，该指导同样适用于L实例： 远程登录Linux弹性云服务器（通过华为云APP）。 macOS系统

查看更多 →

华为云黑洞策略是怎么样的？ 当服务器（云主机）的流量超出基础防御阈值时，华为云将屏蔽该服务器（云主机）的外网访问，避免对华为云其他用户造成影响，保障华为云网络整体的可用性和稳定性。 什么是黑洞？ 黑洞是指服务器（云主机）流量超出基础防御阈值时，华为云将屏蔽服务器（云主机）的外网访问。

查看更多 →

nvidia-smi: command not found 可能原因 云服务器驱动异常、没有安装驱动或者驱动被卸载。 处理方法 如果未安装GPU驱动，请重新安装GPU驱动。 操作指导请参考：安装GPU驱动 如果已安装驱动，但是驱动被卸载。 执行history，查看是否执行过卸载操作。

查看更多 →