multi-user.target 执行以下命令，重启弹性 云服务器 。 reboot （可选）安装GPU驱动。 您可以使用CUDA Toolkit安装包中自带的GPU驱动，或者单独下载配套的GPU驱动版本。如无特殊要求，推荐您安装前提条件中提供的GPU驱动版本“NVIDIA-Linux-x86_64-375

查看更多 →

现计算加速功能。 本节操作介绍GPU云 服务器 安装Tesla驱动及CUDA工具包的操作步骤。 当前已支持使用自动化脚本安装GPU驱动，建议优先使用自动安装方式，脚本获取以及安装指导请参考（推荐）GPU加速型实例自动安装GPU驱动（Linux）和（推荐）GPU加速型实例自动安装GPU驱动（Windows）。

查看更多 →

卸载GPU加速型E CS 的GPU驱动 操作场景 当GPU加速型云服务器需手动卸载GPU驱动时，可参考本文档进行操作。 GPU驱动卸载命令与GPU驱动的安装方式和操作系统类型相关，例如： Windows操作系统卸载驱动 Linux操作系统卸载驱动 Windows操作系统卸载驱动 以Windows

查看更多 →

（推荐）GPU加速型实例自动安装GPU驱动（Linux） 操作场景 在使用GPU加速型实例时，需确保实例已安装GPU驱动，否则无法获得相应的GPU加速能力。 本节内容介绍如何在GPU加速型Linux实例上通过脚本自动安装GPU驱动。 使用须知 本操作仅支持Linux操作系统。 本操作当前仅支持安装Tesla驱动。

查看更多 →

选择GPU节点驱动版本 使用GPU加速型云服务器时，需要安装正确的Nvidia基础设施软件，才可以使用GPU实现计算加速功能。在使用GPU前，您需要根据GPU型号，选择兼容配套软件包并安装。 本文将介绍如何选择GPU节点的驱动版本及配套的CUDA Toolkit。 如何选择GPU节点驱动版本

查看更多 →

考手动安装GPU加速型ECS的Tesla驱动。 当前已支持使用自动化脚本安装GPU驱动，建议优先使用自动安装方式，脚本获取以及安装指导请参考（推荐）GPU加速型实例自动安装GPU驱动（Linux）和（推荐）GPU加速型实例自动安装GPU驱动（Windows）。 GPU虚拟化型实例

查看更多 →

安装Windows特殊驱动 操作场景 对于一些类型的弹性云服务器，如果使用私有镜像进行创建，需要在制作私有镜像时安装特殊驱动。 GPU驱动 如果这个私有镜像用于创建GPU加速型云服务器，需要在镜像中安装合适的GPU驱动来获得相应的GPU加速能力。GPU加速型实例中配备的NVIDIA

查看更多 →

p2服务器安装NVIDIA GPU驱动和CUDA工具包 操作场景 GPU加速型p2（physical.p2.large规格）裸金属服务器创建成功后，需安装NVIDIA GPU驱动和CUDA工具包，从而实现计算加速功能。 前提条件 已绑定弹性公网IP。 已下载对应操作系统所需驱动的安装包。

查看更多 →

model.cuda(args.gpu) torch.cuda.set_device(args.gpu) torch.cuda.is_available() 迁移后： model.npu(args.gpu) torch_npu.npu.set_device(args.gpu) torch_npu

查看更多 →

计算加速型P2vs 计算加速型P2s（主售） 计算加速型P2v 计算加速型P1 推理加速型Pi2（主售） 推理加速型Pi1 相关操作链接： 适用于GPU加速实例的镜像列表 GPU加速型实例安装GRID驱动 GPU加速型实例安装Tesla驱动及CUDA工具包 表1 GPU加速实例总览 类别 实例

查看更多 →

p3服务器安装NVIDIA GPU驱动和CUDA工具包 操作场景 GPU加速型p3（physical.p3.large规格）裸金属服务器创建成功后，需安装NVIDIA GPU驱动和CUDA工具包，从而实现计算加速功能。 前提条件 已绑定弹性公网IP。 已下载对应操作系统所需驱动的安装包。

查看更多 →

p1服务器安装NVIDIA GPU驱动和CUDA工具包 操作场景 GPU加速型p1（physical.p1.large规格）裸金属服务器创建成功后，需安装NVIDIA GPU驱动和CUDA工具包，从而实现计算加速功能。 前提条件 已绑定弹性公网IP。 已下载对应操作系统所需驱动的安装包。

查看更多 →

GPU A系列裸金属服务器更换NVIDIA和CUDA 场景描述 当裸金属服务器预置的NVIDIA版本和业务需求不匹配时，需要更换NVIDIA驱动和CUDA版本。本文介绍华为云A系列GPU裸金属服务器（Ubuntu20.04系统）如何从“NVIDIA 525+CUDA 12.0”更换为“NVIDIA

查看更多 →

GPU A系列裸金属服务器节点内NVLINK带宽性能测试方法（Pytorch模式） 场景描述 本文指导如何进行节点内NVLINK带宽性能测试，适用的环境为：Ant8或者Ant1 GPU裸金属服务器， 且服务器中已经安装相关GPU驱动软件，以及Pytorch2.0。 GPU A系列

查看更多 →

GPU裸金属服务器环境配置 GP Vnt1裸金属服务器EulerOS 2.9安装NVIDIA 515+CUDA 11.7 GP Vnt1裸金属服务器Ubuntu 18.04安装NVIDIA 470+CUDA 11.4 GP Vnt1裸金属服务器的Docker模式环境搭建 GP Ant8裸金属服务器Ubuntu

查看更多 →

Vnt1机型软件版本建议 gpu driver version : 440.95.01 gpu driver version : 440.95.01（GPU驱动在宿主机中安装，镜像中无需安装） cuda runtime version : 10.2（PyTorch自带，无需关心）

查看更多 →

Ant8裸金属服务器Ubuntu 20.04安装NVIDIA 470+CUDA 11.3 场景描述 本文介绍如何配置NVIDIA驱动、CUDA和FabricManager， 并安装PyTorch2.0，最后验证是否正常运行。 服务器信息： GP Ant8裸金属服务器 操作系统：Ubuntu

查看更多 →

暂不支持CCE纳管后的GPU加速型实例。 前提条件 已安装GPU驱动，未安装lspci工具的云服务器影响GPU掉卡事件的上报。 如果您的弹性云服务器未安装GPU驱动，请参见GPU驱动概述安装GPU驱动。 安装GPU驱动需使用默认路径。 GPU驱动安装完后，需重启GPU加速型实例，否则可能

查看更多 →

确认用户想要的目标NVIDIA软件包版本以及CUDA软件版本。 处理方法 推荐客户使用自动安装驱动脚本。根据当前华为云驱动自动安装脚本中提供的CUDA版本，按需安装。 GPU加速型实例自动安装GPU驱动（Linux） GPU加速型实例自动安装GPU驱动（Windows） 如果自动安装驱动脚本中无用户需要的目标软件版本，请联系技术支持处理。

查看更多 →

GPU A系列裸金属服务器使用CUDA cudaGetDeviceCount()提示CUDA initializat失败 问题现象 在A系列GPU裸金属服务器上，系统环境是ubuntu20.04+nvidia515+cuda11.7，使用Pytorch2.0时出现如下错误： CUDA

查看更多 →

run 运行安装文件。 ./NVIDIA-Linux-x86_64-470.182.03.run 至此NVIDIA-DRIVER驱动安装完成。 2、 安装CUDA驱动 上文安装NVIDIA驱动是根据CUDA12.0选择的安装包， 因此下文默认安装CUDA 12.0 进入CUDA Toolkit页面。

查看更多 →