GPU实例故障分类列表 GPU实例故障的分类列表如表1所示。 表1 GPU实例故障分类列表 是否可恢复故障 故障类型 相关文档 可恢复故障，可按照相关文档自行恢复 镜像配置问题 如何处理Nouveau驱动未禁用导致的问题 ECC错误 如何处理ECC ERROR：存在待隔离页问题 内核升级问题

查看更多 →

推理基础镜像详情TensorFlow（CPU/GPU） ModelArts提供了以下TensorFlow（CPU/GPU）推理基础镜像： 引擎版本一：tensorflow_2.1.0-cuda_10.1-py_3.7-ubuntu_18.04-x86_64 引擎版本二： tensorflow_1

查看更多 →

使用创建时的用户名和密码无法SSH方式登录 GPU加速云服务器 处理方法 先使用VNC方式远程登录弹性 云服务器 ，并修改配置文件，然后再使用SSH方式登录。 进入弹性云 服务器 运行页面，单击“远程登录”。 自动跳转至登录页面，登录root用户，输入密码。 密码为创建弹性云服务器时设置的密码。

查看更多 →

GPU_CONTAINER_QUOTA_PERCEN=50 GPU_POLICY Integer 指定GPU使用的算力隔离的策略。 0：不隔离算力，即原生调度。 1：固定算力调度。 2：平均调度。 3：抢占调度。 4：权重抢占调度。 5：混合调度。 6：权重弱调度。 算力隔离策略示例详见XGPU算力调度示例。

查看更多 →

GPU裸金属服务器使用EulerOS内核误升级解决方案 问题现象 GP Vnt1裸金属服务器，操作系统为EulerOS 2.9(基于CentOS制作的Linux发行版)，经常遇到服务器重启后，操作系统内核无故升级，导致系统上原安装的nvidia-driver等软件无法使用，只能卸载重新安装。

查看更多 →

GPU A系列裸金属服务器使用CUDA cudaGetDeviceCount()提示CUDA initializat失败 问题现象 在A系列GPU裸金属服务器上，系统环境是ubuntu20.04+nvidia515+cuda11.7，使用Pytorch2.0时出现如下错误： CUDA

查看更多 →

错误码说明 未检查到当前节点存在GPU设备 可能原因 GPU卡类型不匹配，当前IEF仅支持nvidia的GPU设备 GPU设备节点未检测到 处理措施 非nvidia的GPU卡。 安装IEF软件时，不使能GPU设备，或更换nvidia的GPU卡。 未检测到GPU设备。 尝试重启节点。 父主题：

查看更多 →

GPU插件关键参数检查异常处理 检查项内容 检查CCE GPU插件中部分配置是否被侵入式修改，被侵入式修改的插件可能导致升级失败。 解决方案 使用kubectl连接集群。 执行以下命令获取插件实例详情。 kubectl get ds nvidia-driver-installer

查看更多 →

Kubernetes默认GPU调度可以指定Pod申请GPU的数量，支持申请设置为小于1的数量，实现多个Pod共享使用GPU。 使用Kubernetes默认GPU调度 GPU虚拟化 GPU虚拟化能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。相对于静态分配来说，虚拟化的方案更加灵活

查看更多 →

更多功能咨询 在Notebook中，如何使用昇腾多卡进行调试？ 使用Notebook不同的资源规格，为什么训练速度差不多？ 使用MoXing时，如何进行增量训练？ 在Notebook中如何查看GPU使用情况 如何在代码中打印GPU使用信息 Ascend上如何查看实时性能指标？ 不

查看更多 →

采集方式（Windows）：通过调用GPU卡的nvml.dll库获取。 0-100% 云服务器 云服务器 - GPU 1分钟 gpu_usage_gpu (Agent) GPU使用率 该指标用于统计测量对象当前的GPU使用率。 单位：百分比 采集方式（Linux）：通过调用GPU卡的libnvidia-ml

查看更多 →

memory_utilization 显存使用率。 该GPU的显存使用率。 % instance_id，gpu gpu_performance gpu性能状态。 该GPU的性能状态。 - instance_id，gpu encoder_utilization 编码使用率。 该GPU的编码能力使用率。 % instance_id，gpu

查看更多 →

当前节点未启动GPU驱动。GPU驱动未启动。检查GPU当前状态：systemctl status nvidia-drivers-loader若nvidia驱动未启动，则启动nvidia驱动：systemctl start nvidia-drivers-loadersystemctl start nvidia-drivers-loader如

查看更多 →

CCE AI套件（NVIDIA GPU）版本发布记录 表1 CCE AI套件（NVIDIA GPU）版本记录 插件版本 支持的集群版本 更新特性 2.6.4 v1.28 v1.29 更新GPU卡逻辑隔离逻辑 2.6.1 v1.28 v1.29 升级GPU插件基础镜像 2.5.6 v1

查看更多 →

GPU加速云服务器出现NVIDIA内核崩溃，如何解决？ 问题描述 GPU加速型云服务器在运行过程中发生crash，重启云服务器后检查日志，发现没有打印NVIDIA驱动堆栈日志。 图1 堆栈日志信息 可能原因 云服务器在运行过程中遇到NVIDIA官方驱动bug，导致云服务器内核崩溃。

查看更多 →

GPU裸金属服务器环境配置 GP Vnt1裸金属服务器EulerOS 2.9安装NVIDIA 515+CUDA 11.7 GP Vnt1裸金属服务器Ubuntu 18.04安装NVIDIA 470+CUDA 11.4 GP Vnt1裸金属服务器的Docker模式环境搭建 GP Ant8裸金属服务器Ubuntu

查看更多 →

及上报事件。 如果您的弹性云服务器未安装GPU驱动，可参见（推荐）GPU加速型实例自动安装GPU驱动（Windows）。 安装GPU驱动需使用默认路径。 GPU驱动安装完后，需重启GPU加速型实例，否则可能导致采集GPU指标及上报GPU事件失败。 GPU驱动正常安装后，最多10分

查看更多 →

应用场景 准实时推理场景 实时推理场景 离线异步任务场景 父主题： Serverless GPU使用介绍

查看更多 →

对于一些类型的弹性云服务器，如果使用私有镜像进行创建，需要在制作私有镜像时安装特殊驱动。 GPU驱动 如果这个私有镜像用于创建GPU加速型云服务器，需要在镜像中安装合适的GPU驱动来获得相应的GPU加速能力。GPU加速型实例中配备的NVIDIA Tesla GPU支持两种类型的驱动

查看更多 →

执行reboot命令，重启服务器。 （可选）GPU加速型弹性云服务器结果验证 对于GPU加速型弹性云服务器，在安装完图形化界面后，可通过如下操作验证驱动是否正常工作。 登录管理控制台。 为弹性云服务器配置安全组。 单击弹性云服务器名称，查看弹性云服务器详情，在弹性云服务器详情页面，选择“安全组”。

查看更多 →

String GPU云服务器传给设备的画面分辨率（该参数仅对3D应用生效）。 允许输入480p，540p，720p，1080p，2k，4k。 默认值：1080p。 gpu_ip_type 否 String 分配给设备使用的GPU云服务器的IP类型。 public：表示响应的gpu_ip的

查看更多 →