基于ModelArts Standard运行GPU训练作业 在ModelArts Standard上运行GPU训练作业的场景介绍 在ModelArts Standard运行GPU训练作业的准备工作 在ModelArts Standard上运行GPU单机单卡训练作业 在ModelArts

查看更多 →

GPU推理业务迁移至昇腾的通用指导 简介 昇腾迁移快速入门案例 迁移评估 环境准备 模型适配 精度校验 性能调优 迁移过程使用工具概览 常见问题 推理业务迁移评估表 父主题： GPU业务迁移至昇腾训练推理

查看更多 →

Ubuntu内核与GPU驱动兼容性提醒 检查项内容 检查到集群中同时使用GPU插件和Ubuntu节点，提醒客户存在可能的兼容性问题。当Ubuntu内核版本在5.15.0-113-generic上时，GPU插件必须使用535.161.08及以上的驱动版本。 解决方案 您在升级后新创

查看更多 →

部署GPU服务支持的Cuda版本是多少？ 默认支持Cuda版本为10.2，如果需要更高的版本，可以提工单申请技术支持。 父主题： 功能咨询

查看更多 →

工具连接 L实例 云主机的方法请参考如下E CS 指导，该指导同样适用于L实例的云主机： 远程登录Linux弹性 云服务器 （通过移动设备）。 下载华为云APP连接L实例云主机的方法请参考如下ECS指导，该指导同样适用于L实例： 远程登录Linux弹性云 服务器 （通过华为云APP）。 macOS系统

查看更多 →

如何配置Pod使用GPU节点的加速能力？ 问题描述 我已经购买了GPU节点，但运行速度还是很慢，请问如何配置Pod使用GPU节点的加速能力。 解答 方案1： 建议您将集群中GPU节点的不可调度的污点去掉，以便GPU插件驱动能够正常安装，同时您需要安装高版本的GPU驱动。 如果您的集

查看更多 →

微软的远程登录协议不支持使用GPU的3D硬件加速能力，如需使用请安装VNC/PCoIP/NICE DCV等第三方桌面协议软件，并通过相应客户端连接GPU实例，使用GPU图形图像加速能力。 使用第三方桌面协议连接后，在Windows控制面板中打开NVIDIA控制面板 。 在一级许可证服务器中填入部署的License

查看更多 →

弹性伸缩组 1分钟 gpu_usage_gpu （Agent）GPU使用率 该指标用于统计弹性伸缩组的（Agent）GPU使用率，以百分比为单位。 计算公式：伸缩组中的所有云服务器（Agent）GPU使用率之和/伸缩组实例数 单位：百分比 0-100% 弹性伸缩组 1分钟 gpu_usage_mem

查看更多 →

indows系统云主机。 前提条件 云主机状态为“运行中”，只有状态为“运行中”的云主机才允许用户登录。 已获取云主机用户名和密码，忘记密码请参考重置密码。 云主机安全组入方向已开放3389端口。配置安全组规则请参考配置安全组规则。 使用的登录工具与待登录的云主机之间网络连通。例

查看更多 →

云容器引擎CCE集群和gpu-beta插件推荐安装的NVIDIA GPU驱动，尚未出现在NVIDIA官方信息中。如果将来有新的官方信息变化，我们将及时跟进帮助您升级修复。 如果您是自行选择安装的NVIDIA GPU驱动或更新过节点上的GPU驱动，请参考上图确认您安装的GPU驱动是否受该漏洞影响。

查看更多 →

合适的NVIDIA驱动版本。 GPU驱动支持列表 当前GPU驱动支持列表仅针对1.2.28及以上版本的GPU插件。 如果您需要安装最新版本的GPU驱动，请将您的GPU插件升级到最新版本。 表1 GPU驱动支持列表 GPU型号 支持集群类型 机型规格 操作系统 Huawei Cloud

查看更多 →

手动安装GPU加速型ECS的Tesla驱动 操作场景 GPU加速型云服务器，需要安装Tesla驱动和CUDA工具包以实现计算加速功能。 使用公共镜像创建的计算加速型（P系列）实例默认已安装特定版本的Tesla驱动。 使用私有镜像创建的GPU加速型云服务器，需在创建完成后安装Tesla驱动，否则无法实现计算加速功能。

查看更多 →

使用CloudShell通过公网远程连接云服务器时，无需进行服务授权。 操作步骤 登录Flexus应用服务器L实例控制台。 Flexus应用服务器L实例提供了多处登录入口，您可以在以下任意位置单击“远程登录”，登录云主机。 位置一：在资源卡片处单击“远程登录”。 位置二：单击Flexus应用服务器L实例卡片，在右上角单击“远程登录”。

查看更多 →

使用dcgm-exporter监控GPU指标 应用场景 集群中包含GPU节点时，需要了解GPU应用使用节点GPU资源的情况，例如GPU利用率、显存使用量、GPU运行的温度、GPU的功率等。在获取GPU监控指标后，用户可根据应用的GPU指标配置弹性伸缩策略，或者根据GPU指标设置告警规则。本文基于开源Prometheus和DCGM

查看更多 →

GPU训练业务迁移至昇腾的通用指导 训练业务迁移到昇腾设备场景介绍 训练迁移快速入门案例 PyTorch迁移精度调优 PyTorch迁移性能调优 训练网络迁移总结 父主题： GPU业务迁移至昇腾训练推理

查看更多 →

API参考 华为云Flexus云服务部分产品提供API方式供您灵活使用该产品，本文介绍API文档索引。 产品类型 常用接口 文档索引 Flexus应用服务器L实例 查询云主机详情 批量启动云主机 批量重启云主机 批量关闭云主机 批量重置云主机密码 修改云主机信息 Flexus L实例API参考

查看更多 →

L实例的实例ID和实例中的云服务器ID即云主机ID。 登录Flexus应用服务器L实例控制台。 单击待查看的Flexus L实例资源卡片，在实例名称后可查看实例ID 。 单击“云主机 VM”，在云主机信息中可查看云主机ID。 单击ID后的复制按钮，可快速复制ID。 图1 实例套餐ID和云主机ID 父主题：

查看更多 →

面。 执行如下命令查看GPU使用情况。 nvidia-smi 查看当前Notebook实例中有哪些进程使用GPU。 方法一： python /modelarts/tools/gpu_processes.py 如果当前进程使用GPU 如果当前没有进程使用GPU 方法二： 打开文件“

查看更多 →

6 版本开发，使用其他版本的 cuda 请考虑使用 自定义镜像 函数。 定制运行时函数，可以在设置->常规设置中，启用 GPU。 图1 启用GPU 父主题： 创建GPU函数

查看更多 →

主机安全 与公网有交互的云服务器建议参考华为云主机防暴力破解解决方案进行相应的加固。主要涉及系统加固，以及主机安全产品(HIDS/AV等)的应用。 为了增加业务关键云主机的可靠性，建议(云服务器创建阶段)将同类的关键节点关联到一个云服务器组，将云主机尽量分散到不同的物理主机上(反

查看更多 →

示例：创建DDP分布式训练（PyTorch+GPU） 本文介绍三种使用训练作业来启动PyTorch DDP训练的方法及对应代码示例。 使用PyTorch预置框架功能，通过mp.spawn命令启动 使用自定义镜像功能 通过torch.distributed.launch命令启动 通过torch

查看更多 →