如何避免非GPU/NPU负载调度到GPU/NPU节点？ 问题现象 当集群中存在GPU/NPU节点和普通节点混合使用的场景时，普通工作负载也可以调度到GPU/NPU节点上，可能出现GPU/NPU资源未充分利用的情况。 问题原因 由于GPU/NPU节点同样提供CPU、内存资源，在一般

查看更多 →

pci_passthrough:gpu_specs String G1型和G2型 云服务器 应用的技术，包括GPU虚拟化和GPU直通。 如果该规格的云 服务器 使用GPU虚拟化技术，且GPU卡的型号为M60-1Q，参数值为“m60_1q:virt:1”。 如果该规格的云服务器使用GPU直通技术，且GPU卡的型号

查看更多 →

nvidia-smi: command not found 可能原因 云服务器驱动异常、没有安装驱动或者驱动被卸载。 处理方法 如果未安装GPU驱动，请重新安装GPU驱动。 操作指导请参考：安装GPU驱动 如果已安装驱动，但是驱动被卸载。 执行history，查看是否执行过卸载操作。

查看更多 →

执行以下命令，查看安装结果。 lspci -d 10de: 图1 安装结果 GPU指标采集需要依赖以下驱动文件，请检查环境中对应的驱动文件是否存在。如果驱动未安装，可参见（推荐）GPU加速型实例自动安装GPU驱动（Linux）。 Linux驱动文件 nvmlUbuntuNvidiaLibraryPath

查看更多 →

应用场景5：在线离线作业混合部署 当前很多业务有波峰和波谷，部署服务时，为了保证服务的性能和稳定性，通常会按照波峰时需要的资源申请，但是波峰的时间可能很短，这样在非波峰时段就有资源浪费。另外，由于在线作业SLA要求较高，为了保证服务的性能和可靠性，通常会申请大量的冗余资源，因此，会导致资

查看更多 →

置为GPU插件配置中指定的版本。 如果需要稳定升级GPU节点驱动，推荐使用通过节点池升级节点的GPU驱动版本。 前提条件 需要使用kubectl连接到集群，详情请参见通过kubectl连接集群。 操作步骤 如果您需要使用指定的NVIDIA驱动版本，可以在节点安装新版本GPU驱动，操作步骤如下：

查看更多 →

etes默认GPU调度模式（支持使用nvidia.com/gpu资源的工作负载）。 在工作负载中声明nvidia.com/gpu资源（即配置nvidia.com/gpu为小数，例如0.5）时将通过虚拟化GPU提供，实现GPU显存隔离，按照设定值的百分比为容器分配GPU显存（例如分配0

查看更多 →

GPU实例故障分类列表 GPU实例故障的分类列表如表1所示。 表1 GPU实例故障分类列表 是否可恢复故障 故障类型 相关文档 可恢复故障，可按照相关文档自行恢复 镜像配置问题 如何处理Nouveau驱动未禁用导致的问题 ECC错误 如何处理ECC ERROR：存在待隔离页问题 内核升级问题

查看更多 →

a1），请继续按照处理方法处理；如果查找不到显卡或者显示状态为rev ff，请根据显卡故障诊断及处理方法进行故障诊断。规格对应显卡数量可以通过GPU加速型查询。 lspci | grep -i nvidia 处理方法 非CCE集群场景，建议尝试自行重装驱动，或升级驱动版本后执行nvidi

查看更多 →

应的裸金属服务器，后续挂载磁盘、绑定弹性网络IP等操作可在BMS服务控制台上完成。 更多裸金属服务器的介绍请见裸金属服务器 BMS。 xPU xPU泛指GPU和NPU。 GPU，即图形处理器，主要用于加速深度学习模型的训练和推理。 NPU，即神经网络处理器，是专门为加速神经网络计

查看更多 →

T4 GPU设备显示异常 问题描述 使用NVIDIA Tesla T4 GPU的云服务器，例如Pi2或G6规格，执行nvidia-smi命令查看GPU使用情况时，显示如下： No devices were found 原因分析 NVIDIA Tesla T4 GPU是NVIDIA的新版本，默认使用并开启GSP

查看更多 →

某些节点支持使用GPU算力，则可以使用节点亲和调度，确保高性能计算的Pod最终运行在GPU节点上。 配置节点亲和调度策略 您可以通过不同的方式配置节点亲和性调度策略，将Pod调度到满足条件的节点。 通过控制台配置 通过YAML配置 本文示例中，集群内已创建GPU节点，并设置标签为

查看更多 →

当前节点未启动GPU驱动。GPU驱动未启动。检查GPU当前状态：systemctl status nvidia-drivers-loader若nvidia驱动未启动，则启动nvidia驱动：systemctl start nvidia-drivers-loadersystemctl start nvidia-drivers-loader如

查看更多 →

适配OS Ubuntu22.04 GPU驱动目录自动挂载优化 1.2.24 v1.19 v1.21 v1.23 v1.25 节点池支持配置GPU驱动版本 支持GPU指标采集 1.2.20 v1.19 v1.21 v1.23 v1.25 设置插件别名为gpu 1.2.17 v1.15 v1

查看更多 →

gputil import GPUtil as GPU GPU.showUtilization() import GPUtil as GPU GPUs = GPU.getGPUs() for gpu in GPUs: print("GPU RAM Free: {0:.0f}MB |

查看更多 →

自定义镜像 方式创建GPU函数 GPU 型号仅支持 NVIDIA Tesla 系列。例如：Tesla 系列 T4 卡型。 自定义镜像函数部署详见使用容器镜像部署函数。 自定义镜像函数，可以在设置->常规设置中，启用GPU。 图1 启用GPU 父主题： 创建GPU函数

查看更多 →

对于关联IP地址组的安全组，其中IP地址组相关的规则对某些类型的云服务器不生效，不支持的规则如下： 通用计算型（S1型、C1型、C2型 ） 内存优化型（M1型） 高性能计算型（H1型） 磁盘增强型（ D1型） GPU加速型（G1型、G2型） 超大内存型（E1型、E2型、ET2型）

查看更多 →

错误码说明 未检查到当前节点存在GPU设备 可能原因 GPU卡类型不匹配，当前IEF仅支持nvidia的GPU设备 GPU设备节点未检测到 处理措施 非nvidia的GPU卡。 安装IEF软件时，不使能GPU设备，或更换nvidia的GPU卡。 未检测到GPU设备。 尝试重启节点。 父主题：

查看更多 →

GPU插件关键参数检查异常处理 检查项内容 检查CCE GPU插件中部分配置是否被侵入式修改，被侵入式修改的插件可能导致升级失败。 解决方案 使用kubectl连接集群。 执行以下命令获取插件实例详情。 kubectl get ds nvidia-driver-installer

查看更多 →

GPU业务迁移至昇腾训练推理 ModelArts昇腾迁移调优工具总览 基于LLM模型的GPU训练业务迁移至昇腾指导 GPU训练业务迁移至昇腾的通用指导 基于AIGC模型的GPU推理业务迁移至昇腾指导 GPU推理业务迁移至昇腾的通用指导 基于advisor的昇腾训练性能自助调优指导

查看更多 →

G系列弹性云服务器GPU驱动故障 问题描述 在Windows系统的G系列弹性云服务器中，无法打开NVIDIA 控制面板，GPU驱动无法使用或GPU驱动显示异常。 可能原因 GPU驱动状态异常。 处理方法 打开Windows设备管理器，在显示适配器中查看GPU驱动状态。 GPU驱动显示

查看更多 →