选择GPU节点驱动版本 使用GPU加速型 云服务器 时，需要安装正确的Nvidia基础设施软件，才可以使用GPU实现计算加速功能。在使用GPU前，您需要根据GPU型号，选择兼容配套软件包并安装。 本文将介绍如何选择GPU节点的驱动版本及配套的CUDA Toolkit。 如何选择GPU节点驱动版本

查看更多 →

到GPU。 处理方法 根据报错提示，请您排查代码，是否已添加以下配置，设置该程序可见的GPU： os.environ['CUDA_VISIBLE_DEVICES'] = '0,1,2,3,4,5,6,7' 其中，0为 服务器 的GPU编号，可以为0，1，2，3等，表明对程序可见的GP

查看更多 →

支持GPU单卡的算力、显存分割与隔离。 图1 开启GPU虚拟化 若集群中未安装Volcano插件，将不支持开启GPU虚拟化，您可单击“一键安装”进行安装。如需配置Volcano插件参数，请单击“自定义安装”，详情请参见Volcano调度器。 若集群中已安装Volcano插件，但插

查看更多 →

修改Flexus L实例 云主机信息 功能介绍 修改云主机信息，目前支持修改云主机名称及描述和hostname。 接口约束 云主机hostname修改后，需要重启云主机后才会生效。 调试 您可以在 API Explorer 中调试该接口。 URI GET /v1/{project_id

查看更多 →

时删除不需要的资源。 云主机可用资源 通用计算增强型（S系列）资源池 通用计算增强型（C系列）资源池 内存优化型（M系列）资源池 磁盘增强型（I系列）资源池 磁盘增强型（D系列）资源池 GPU加速型（PI系列）资源池 GPU加速型（G系列）资源池 GPU加速型（P3V）资源池 X

查看更多 →

选择“弹性云服务器E CS 安装”，并单击“开始配置”。 选择安装方式。 选择安装模式：界面安装 选择服务器验证模式：密钥方式 选择密钥来源：云密钥（DEW） 选中目标服务器，并单击“确认”，Agent开始安装。 可选服务器列表，仅展示已绑定云密钥（DEW）的服务器。 图4 选择服务器 在目

查看更多 →

（推荐）自动安装GPU加速型ECS的GPU驱动（Windows） 操作场景 在使用GPU加速型实例时，需确保实例已安装GPU驱动，否则无法获得相应的GPU加速能力。 本节内容介绍如何在GPU加速型Windows实例上通过脚本自动安装GPU驱动。 使用须知 如果GPU加速型实例已安装

查看更多 →

使用Kubernetes默认GPU调度 CCE支持在容器中使用GPU资源。 前提条件 创建GPU类型节点，具体请参见创建节点。 集群中需要安装GPU插件，且安装时注意要选择节点上GPU型号对应的驱动，具体请参见CCE AI套件（NVIDIA GPU）。 在v1.27及以下的集群中使用默认GPU调度能力

查看更多 →

server_id 是 云主机ID。 获取方法请参见获取云主机ID 相关信息 本接口复用ECS相应接口，响应参数说明、接口使用示例、返回值等信息详见ECS文档查询云服务器详情，该文档内容同样适用于Flexus L实例云主机。 ECS接口信息中，FlexusL实例中的云主机对应于弹性云服务器。 父主题：

查看更多 →

率，方法二是通过安装gpu-Z工具查看GPU使用率。 前提条件 GPU加速型云服务器已安装NVIDIA驱动。 方法一 登录GPU加速型云服务器。 打开cmd命令窗口。 执行如下命令，查看GPU使用情况。 cd C:\Program Files\NVIDIA Corporation\NVSMI

查看更多 →

基于GPU监控指标的工作负载弹性伸缩配置 集群中包含GPU节点时，可通过GPU指标查看节点GPU资源的使用情况，例如GPU利用率、显存使用量等。在获取GPU监控指标后，用户可根据应用的GPU指标配置弹性伸缩策略，在业务波动时自适应调整应用的副本数量。 前提条件 目标集群已创建，且

查看更多 →

ICAgent管理（华为云主机） 安装ICAgent 升级ICAgent 卸载ICAgent 父主题： 配置管理

查看更多 →

手动更新GPU节点驱动版本 一般情况下，您可以通过CCE AI套件（NVIDIA GPU）插件配置节点的驱动文件路径，节点重启后会自动安装驱动。您也可以手动更新驱动的方式进行更新。 手动更新GPU节点的驱动版本为临时方案，适用于需要对某个节点进行差异化配置的场景，但节点重启后将自动重置为GPU插件配置中指定的版本。

查看更多 →

(NVIDIA GPU)插件，单击“安装”。 如已安装该插件，单击“编辑”。 填写插件配置，详情请参见安装插件。 开启GPU虚拟化后，可选择是否兼容nvidia.com/gpu字段，实现Kubernetes默认GPU调度能力的兼容。 单击“安装”。 兼容Kubernetes默认GPU调度模式示例

查看更多 →

内核升级问题 如何处理升级内核后，驱动不可用问题 GPU掉卡问题 如何处理GPU掉卡问题 显卡ERR！ 如何处理显卡ERR！问题 软件安装问题 如何处理用户自行安装NVIDIA驱动、CUDA软件，安装过程出错问题 驱动兼容性问题 如何处理驱动兼容性问题 Xid问题 如何处理可恢复的Xid故障问题

查看更多 →

安装ICAgent（非华为云主机） 前提条件 已购买弹性云服务器ECS作为跳板机。 满足AOM支持的操作系统及版本，支持amd64处理器架构。 弹性云服务器已绑定弹性IP地址。 确保本地浏览器的时间与弹性云服务器的时区、时间一致。 注意事项 非华为云上的服务器安装ICAgent时

查看更多 →

插件卸载会自动删除已安装的GPU驱动。 GPU虚拟化：选择开启GPU虚拟化，支持GPU单卡的算力、显存分割与隔离。 若集群中未安装volcano插件，将不支持开启GPU虚拟化，您可单击“一键安装”进行安装。如需配置volcano插件参数，请单击“自定义安装”，详情请参见volcano。

查看更多 →

/nvidia-smi 若能正常返回GPU信息，说明设备可用，插件安装成功。 GPU驱动支持列表 当前GPU驱动支持列表仅针对1.2.28及以上版本的GPU插件。 如果您需要安装最新版本的GPU驱动，请将您的GPU插件升级到最新版本。 表1 GPU驱动支持列表 GPU型号 支持集群类型 机型规格

查看更多 →

GPU插件检查异常处理 检查项内容 检查到本次升级涉及GPU插件，可能影响新建GPU节点时GPU驱动的安装。 解决方案 由于当前GPU插件的驱动配置由您自行配置，需要您验证两者的兼容性。建议您在测试环境验证安装升级目标版本的GPU插件，并配置当前GPU驱动后，测试创建节点是否正常使用。

查看更多 →

GPU虚拟化概述 CCE GPU虚拟化采用自研xGPU虚拟化技术，能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。相对于静态分配来说，虚拟化的方案更加灵活，最大程度保证业务稳定的前提下，可以完全由用户自己定义使用的GPU量，提高GPU利用率。

查看更多 →

应用GPU资源调度方式 IEF支持多应用共享的方式使用GPU显卡。 IEF支持单个应用使用多个GPU显卡。 GPU资源调度基于GPU显存容量，调度采用GPU显存预分配方式而非实时GPU显存资源。 当应用需要使用的GPU显存资源小于单个GPU卡显存时，支持以共享方式进行资源调度，对

查看更多 →