配置工作负载信息。 在“容器配置>基本信息”中设置xGPU配额： 显存：显存值单位为MiB，需为正整数，且为128的倍数。若配置的显存超过单张GPU卡的显存，将会出现无法调度状况。 算力：算力值单位为%，需为5的倍数，且最大不超过100。 当显存设置为单张GPU卡的容量上限或算力设置为100%时，将会使用整张GPU卡。

查看更多 →

NT_GPU_SMI_ECC_COUNT GPU 显存 ECC错误到达64次 通过nvidia-smi -a查询到Retired Pages中，Single Bit和Double Bit之和大于64。 发起维修流程。 NT_GPU_CARD_LOSE GPU 掉卡 GPU卡丢失。

查看更多 →

计算：全面适配华为云各类计算实例，支持虚拟机和裸机混合部署、高性价比鲲鹏实例、GPU和华为云独有的昇腾算力；支持GPU虚拟化、共享调度、资源感知的调度优化。 网络：支持对接高性能、安全可靠、多协议的独享型ELB作为业务流量入口。 存储：对接云存储，支持EVS、SFS和OBS，提供磁盘加密、快照和备份能力。 集

查看更多 →

最新动态 本文介绍了弹性 云服务器 E CS 的功能发布和对应的文档动态，新特性将在各个区域（Region）陆续发布，欢迎体验。 2021年8月 序号 功能名称 功能描述 阶段 相关文档 1 弹性云 服务器 帮助中心新增新手指引 弹性云服务器帮助中心新增新手指引，对云服务器的日常使用提供操作导航。

查看更多 →

节点-XGPU设备显存分配量 字节 每个节点上的GPU虚拟化设备显存总量 GPU卡-XGPU设备显存使用率 百分比 每张GPU卡上的GPU虚拟化设备显存使用率 计算公式：显卡上所有XGPU设备的显存使用量之和 / 显卡显存总量 GPU卡-XGPU设备显存分配量 字节 每张GPU卡上的GPU虚拟化设备的显存总量

查看更多 →

间请参考开发环境中不同Notebook规格资源“/cache”目录的大小。 存储生命周期和容器生命周期绑定，每次训练都要下载数据。 在开发环境中如何使用云硬盘EVS块存储？ 例如，在创建Notebook实例时选择云硬盘EVS存储小容量，Notebook运行过程中如果发现存储容量不

查看更多 →

层SFS服务创建的文件存储卷，SFS存储卷适用于多读多写的持久化存储，适用于多种工作负载场景，包括媒体处理、内容管理、大数据分析和分析工作负载程序等场景。 对象存储卷：CCE支持创建OBS对象存储卷并挂载到容器的某一路径下，对象存储适用于云工作负载、数据分析、内容分析和热点对象等场景。

查看更多 →

器内没有进程打开GPU设备，则跳过调度切换到下一个时间片。例如为容器1、2、3分别分配5%、5%、10%的算力，则容器1、2、3分别占用1、1、2个算力单元。图中白色部分的算力单元表示容器3的空闲算力，图中白色部分和灰色部分的算力单元表示被跳过不参与调度。 本例中容器1、2、3占

查看更多 →

训练任务相关操作与任务所处状态约束 作业状态 重建 删除 停止 排队中 - √ √ 提交中 - - - 提交失败 √ √ - 运行中 - - √ 运行异常 √ √ - 已完成 √ √ - 停止中 - - - 停止失败 - √ - 已停止 √ √ - 删除中 - - - 删除失败 - √ - 分布式训练任务

查看更多 →

Pod的CPU/内存配比值 在1:2至1:8之间。 Pod的容器 一个Pod内最多支持5个容器。 Pod中所有容器和InitContainer（启动容器） 两者规格中的request和limit相等。 Pod规格计算详情请参见Pod规格计算方式。 InitContainer是一种特殊容器，在

查看更多 →

分布式训练调测的能力，可在PyCharm/VSCode/JupyterLab等开发工具中调试分布式训练。 约束限制 总览页面打开的CodeLab不支持此项功能，但是如果用户在AI Hub中打开了可用的案例，会自动跳转到CodeLab中，此时是可以使用这项功能的。 如果切换了Notebook的规格，那

查看更多 →

invalid_device fstab中的设备检查 当前实例的/etc/fstab文件中配置的某个设备不存在，可能会导致实例无法启动。 guestos.filesystem.device_mount_failure fstab中的设备挂载状态检查 该实例存在未在/etc/fstab中配置自动挂载的云盘，可能会导致实例无法启动。

查看更多 →

医疗智能体 （ EIHealth ）平台是基于华为云AI和大数据技术优势，为基因组分析、药物研发和临床研究三个领域提供的专业AI研发平台。平台提供大量相关模型、算法及数据资源，是一站式的医疗研发平台。 医疗智能体提供以下子服务： 基因组分析 提供高性能、高可靠性、高性价比的基因测序计算、存储、分析和AI能力支持，让科研过程标准化、可执行。

查看更多 →

XGPU共享技术是华为云基于内核虚拟GPU开发的共享技术。XGPU服务可以隔离GPU资源，实现多个容器共用一张显卡，从而实现业务的安全隔离，提高GPU硬件资源的利用率并降低使用成本。 XGPU共享技术架构 XGPU通过自研的内核驱动为容器提供虚拟的GPU设备，在保证性能的前提下隔离显存和算力，为充分利

查看更多 →

千字节/秒（kB/s） GPU aom_node_gpu_memory_free_megabytes gpuMemCapacity 显存容量 该指标用于统计测量对象的显存容量。 ≥0 兆字节（MB） aom_node_gpu_memory_usage gpuMemUsage 显存使用率 该指

查看更多 →

自行购买和配置使用GRID License。此外，GRID驱动配合vDWS类型License，也支持CUDA，用来满足既需要计算加速也需要图形加速的场景。 使用公共镜像创建的图形加速型（G系列）实例默认已安装特定版本的GRID驱动，但GRID License需自行购买和配置使用，

查看更多 →

NPU资源配额，配置时limit和request配置相同 NPU数量（Snt9B） 参数名 取值范围 默认值 是否允许修改 作用范围 huawei.com/ascend-1980 大于等于0小于等于1000整数 无 允许 - Snt9B NPU资源配额，配置时limit和request配置相同

查看更多 →

rts进行训练或推理。 云监控服务：使用云监控服务监控在线服务和对应模型负载，执行自动实时监控、告警和通知操作。 云审计 服务：使用云审计服务记录ModelArts相关的操作事件，便于日后的查询、审计和回溯。 方案优势 通过天宽昇腾云行业大模型适配服务，用户能够在华为云高性价比的昇

查看更多 →

GPU虚拟化节点弹性伸缩配置 当集群中GPU虚拟化资源不足时，支持自动进行GPU节点的弹性伸缩。本文将指导您如何创建GPU虚拟化节点的弹性伸缩策略。 前提条件 已创建一个v1.28或v1.29版本的集群。 在集群中安装CCE AI套件（NVIDIA GPU）（2.7.5及以上版本

查看更多 →

GPU调度 GPU节点驱动版本 使用Kubernetes默认GPU调度 GPU虚拟化 监控GPU资源指标 基于GPU监控指标的工作负载弹性伸缩配置 GPU虚拟化节点弹性伸缩配置 GPU故障处理 父主题： 调度

查看更多 →

如何在代码中打印GPU使用信息 用户可通过shell命令或python命令查询GPU使用信息。 使用shell命令 执行nvidia-smi命令。 依赖CUDA nvcc watch -n 1 nvidia-smi 执行gpustat命令。 pip install gpustat

查看更多 →