应用GPU资源调度方式 IEF支持多应用共享的方式使用GPU显卡。 IEF支持单个应用使用多个GPU显卡。 GPU资源调度基于GPU显存容量，调度采用GPU显存预分配方式而非实时GPU显存资源。 当应用需要使用的GPU显存资源小于单个GPU卡显存时，支持以共享方式进行资源调度，对

查看更多 →

gpu-device-plugin 插件简介 gpu-device-plugin插件是支持在容器中使用GPU显卡的设备管理插件，集群中使用GPU节点时必须安装本插件。 约束与限制 下载的驱动必须是后缀为“.run”的文件。 仅支持Nvidia Tesla驱动，不支持GRID驱动。

查看更多 →

如何避免非GPU/NPU负载调度到GPU/NPU节点？ 问题现象 当集群中存在GPU/NPU节点和普通节点混合使用的场景时，普通工作负载也可以调度到GPU/NPU节点上，可能出现GPU/NPU资源未充分利用的情况。 问题原因 由于GPU/NPU节点同样提供CPU、内存资源，在一般

查看更多 →

nvidia-smi: command not found 可能原因 云服务器 驱动异常、没有安装驱动或者驱动被卸载。 处理方法 如果未安装GPU驱动，请重新安装GPU驱动。 操作指导请参考：安装GPU驱动 如果已安装驱动，但是驱动被卸载。 执行history，查看是否执行过卸载操作。

查看更多 →

执行以下命令，查看安装结果。 lspci -d 10de: 图1 安装结果 GPU指标采集需要依赖以下驱动文件，请检查环境中对应的驱动文件是否存在。如果驱动未安装，可参见（推荐）GPU加速型实例自动安装GPU驱动（Linux）。 Linux驱动文件 nvmlUbuntuNvidiaLibraryPath

查看更多 →

兼容Kubernetes默认GPU调度模式 开启GPU虚拟化后，默认该GPU节点不再支持使用Kubernetes默认GPU调度模式的工作负载，即不再支持使用nvidia.com/gpu资源的工作负载。如果您在集群中已使用nvidia.com/gpu资源的工作负载，可在gpu-device-p

查看更多 →

置为GPU插件配置中指定的版本。 如果需要稳定升级GPU节点驱动，推荐使用通过节点池升级节点的GPU驱动版本。 前提条件 需要使用kubectl连接到集群，详情请参见通过kubectl连接集群。 操作步骤 如果您需要使用指定的NVIDIA驱动版本，可以在节点安装新版本GPU驱动，操作步骤如下：

查看更多 →

GPU实例故障分类列表 GPU实例故障的分类列表如表1所示。 表1 GPU实例故障分类列表 是否可恢复故障 故障类型 相关文档 可恢复故障，可按照相关文档自行恢复 镜像配置问题 如何处理Nouveau驱动未禁用导致的问题 ECC错误 如何处理ECC ERROR：存在待隔离页问题 内核升级问题

查看更多 →

a1），请继续按照处理方法处理；如果查找不到显卡或者显示状态为rev ff，请根据显卡故障诊断及处理方法进行故障诊断。规格对应显卡数量可以通过GPU加速型查询。 lspci | grep -i nvidia 处理方法 非CCE集群场景，建议尝试自行重装驱动，或升级驱动版本后执行nvidi

查看更多 →

T4 GPU设备显示异常 问题描述 使用NVIDIA Tesla T4 GPU的云 服务器 ，例如Pi2或G6规格，执行nvidia-smi命令查看GPU使用情况时，显示如下： No devices were found 原因分析 NVIDIA Tesla T4 GPU是NVIDIA的新版本，默认使用并开启GSP

查看更多 →

Serverless GPU使用介绍 概述 应用场景 父主题： GPU函数管理

查看更多 →

创建GPU虚拟化应用 本文介绍如何使用GPU虚拟化能力实现算力和显存隔离，高效利用GPU设备资源。 前提条件 已完成GPU虚拟化资源准备。 如果您需要通过命令行创建，需要使用kubectl连接到集群，详情请参见通过kubectl连接集群。 约束与限制 init容器不支持进行GPU虚拟化。

查看更多 →

1及以上版本 gpu-device-plugin插件：2.0.0及以上版本 步骤一：纳管并标记GPU节点 如果您的集群中已有符合基础规划的GPU节点，您可以跳过此步骤。 在集群中纳管支持GPU虚拟化的节点，具体操作步骤请参见纳管节点。 纳管成功后，给对应支持GPU虚拟化节点打上“accelerator:

查看更多 →

监控GPU虚拟化资源 本章介绍如何在U CS 控制台界面查看GPU虚拟化资源的全局监控指标。 前提条件 完成GPU虚拟化资源准备。 当前本地集群内存在节点开启GPU虚拟化能力。 当前本地集群开启了监控能力。 GPU虚拟化监控 登录UCS控制台，在左侧导航栏选择“容器智能分析”。 选择

查看更多 →

当前节点未启动GPU驱动。GPU驱动未启动。检查GPU当前状态：systemctl status nvidia-drivers-loader若nvidia驱动未启动，则启动nvidia驱动：systemctl start nvidia-drivers-loadersystemctl start nvidia-drivers-loader如

查看更多 →

适配OS Ubuntu22.04 GPU驱动目录自动挂载优化 1.2.24 v1.19 v1.21 v1.23 v1.25 节点池支持配置GPU驱动版本 支持GPU指标采集 1.2.20 v1.19 v1.21 v1.23 v1.25 设置插件别名为gpu 1.2.17 v1.15 v1

查看更多 →

gputil import GPUtil as GPU GPU.showUtilization() import GPUtil as GPU GPUs = GPU.getGPUs() for gpu in GPUs: print("GPU RAM Free: {0:.0f}MB |

查看更多 →

错误码说明 未检查到当前节点存在GPU设备 可能原因 GPU卡类型不匹配，当前IEF仅支持nvidia的GPU设备 GPU设备节点未检测到 处理措施 非nvidia的GPU卡。 安装IEF软件时，不使能GPU设备，或更换nvidia的GPU卡。 未检测到GPU设备。 尝试重启节点。 父主题：

查看更多 →

GPU业务迁移至昇腾训练推理 基于AIGC模型的GPU推理业务迁移至昇腾指导 GPU推理业务迁移至昇腾的通用指导

查看更多 →

GPU插件关键参数检查异常处理 检查项内容 检查CCE GPU插件中部分配置是否被侵入式修改，被侵入式修改的插件可能导致升级失败。 解决方案 使用kubectl连接集群。 执行以下命令获取插件实例详情。 kubectl get ds nvidia-driver-installer

查看更多 →

基于ModelArts Standard运行GPU训练任务 在ModelArts Standard上运行GPU训练任务的场景介绍 在ModelArts Standard运行GPU训练任务的准备工作 在ModelArts Standard上运行GPU单机单卡训练任务 在ModelArts

查看更多 →