用户提供更加便捷、高效的GPU计算服务，有效承载AI模型推理、AI模型训练、音视频加速生产、图形图像加速等加速工作负载。 GPU函数主要使用于：仿真、模拟、科学计算、音视频、AI和图像处理等场景下，使用GPU硬件加速，从而提高业务处理效率。 表1 GPU函数规格 卡型 vGPU 显存（GB）

查看更多 →

创建工程 创建联邦学习工程，编写代码，进行模型训练，生成模型包。此联邦学习模型包可以导入至联邦学习部署服务，作为联邦学习实例的基础模型包。 在联邦学习部署服务创建联邦学习实例时，将“基础模型配置”选择为“从NAIE平台中导入”，自动匹配模型训练服务的联邦学习工程及其训练任务和模型包。

查看更多 →

如何提升训练效率，同时减少与OBS的交互？ 场景描述 在使用ModelArts进行自定义深度学习训练时，训练数据通常存储在对象存储服务（OBS）中，且训练数据较大时（如200GB以上），每次都需要使用GPU资源池进行训练，且训练效率低。 希望提升训练效率，同时减少与 对象存储OBS 的交互。可通过如下方式进行调整优化。

查看更多 →

从0制作 自定义镜像 用于创建训练作业（PyTorch+CPU/GPU） 本章节介绍如何从0到1制作镜像，并使用该镜像在ModelArts平台上进行训练。镜像中使用的AI引擎是PyTorch，训练使用的资源是CPU或GPU。 本实践教程仅适用于新版训练作业。 场景描述 本示例使用Linux

查看更多 →

lel进行多机多卡训练的优缺点 通信更快：相比于DP，通信速度更快 负载相对均衡：相比于DP，GPU负载相对更均衡 运行速度快：因为通信时间更短，效率更高，能更快速地完成训练作业。 相关章节 创建单机多卡的分布式训练（DataParallel）：介绍单机多卡数据并行分布式训练原理和代码改造点。

查看更多 →

小于100个节点，可使用默认配置，即CPU的申请值为500m，限制值为2000m；内存的申请值为500Mi，限制值为2000Mi。 高于100个节点，每增加100个节点（10000个Pod），建议CPU的申请值增加500m，内存的申请值增加1000Mi；CPU的限制值建议比申请值多1500m，内存的限制值建议比申请值多1000Mi。

查看更多 →

GPU驱动故障 G系列弹性 云服务器 GPU驱动故障 GPU驱动异常怎么办？ GPU驱动不可用 GPU设备显示异常 T4 GPU设备显示异常 GPU实例启动异常，查看系统日志发现NVIDIA驱动空指针访问怎么办？

查看更多 →

Online，单击“创建实例”。 如果提示未开通则根据提示跳转至开通页面完成服务开通。 进入“基础配置”页面，选择Python技术栈，CPU架构选择X86计算，CPU/内存选择2U4G，单击“下一步”。 进入“工程配置”页面，选择不创建工程，然后单击“确定”，完成实例创建。 安装TensorFlow

查看更多 →

了解SFS和OBS云服务 从 0 制作自定义镜像并用于训练（Pytorch+CPU/GPU） 本案例介绍如何从0开始制作镜像，并使用该镜像在ModelArts Standard平台上进行训练。镜像中使用的AI引擎是Pytorch，训练使用的资源是CPU或GPU。 面向熟悉代码编写

查看更多 →

GPU设备检查 功能 检查节点是否存在gpu设备，gpu驱动是否安装且运行正常。 语法 edgectl check gpu 参数说明 无 使用示例 检查节点GPU设备： edgectl check gpu 检查成功返回结果： +-----------------------+ |

查看更多 →

自动学习 准备数据 模型训练 部署上线 模型发布

查看更多 →

准备GPU资源 本文介绍如何在使用GPU能力前所需要的基础软件、硬件规划与准备工作。 基础规划 配置 支持版本 集群版本 v1.25.15-r7及以上 操作系统 华为云欧拉操作系统 2.0 系统架构 X86 GPU类型 T4、V100 驱动版本 GPU虚拟化功能仅支持470.57

查看更多 →

虚拟化模式：采用自研的 GPU 虚拟化技术，能够动态对 GPU 设备显存与算力进行划分，提高 GPU 资源利用率 GPU资源使用模式: 整卡模式：单个Pod独享整张显卡，可填1-10，取决于节点显卡数量。 共享模式：多个Pod共享显卡，此处配置单个Pod使用显卡的百分比。不支持跨GPU分配，如50%单显卡只会分配到一张卡上。

查看更多 →

监控GPU资源 本章介绍如何在U CS 控制台界面查看GPU资源的全局监控指标。 前提条件 完成GPU资源准备。 当前本地集群已创建GPU资源。 当前本地集群开启了监控能力。 GPU监控 登录UCS控制台，在左侧导航栏选择“容器智能分析”。 选择对应的集群并开启监控，详细操作请参照集群开启监控。

查看更多 →

集群-算力使用率 百分比 集群的算力使用率 计算公式：集群内容器算力使用总量/集群内算力总量 节点-显存使用量 字节 每个节点的显存使用量 节点-算力使用率 百分比 每个节点的算力使用率 计算公式：节点上容器算力使用总量/节点上算力总量 节点-显存使用率 百分比 每个节点的显存使用率

查看更多 →

程数的百分比，当已经接入的会话数小于线程池初始设置数乘以该值对应的百分比后，停止过载逃生并放开新连接接入，取值为0~INT_MAX，设置为多少表示百分之多少。 overload_threadpool_percent：线程池过载时的接入会话占线程池初始设置线程数的百分比，当已经接入

查看更多 →

disk_usage_svctm 平均IO服务时长 该指标用于统计测量对象在测量周期内平均每个读IO或写IO的服务时长。 ≥ 0 ms 磁盘 1分钟 disk_usage_util 磁盘读写使用率 该指标用于统计测量对象在测量周期内提交读取或写入操作的占比。 0-100% 磁盘 1分钟 表4 GPU卡支持的监控指标

查看更多 →

的情况，优化调度方式，通过资源抢占，分时复用等机制减少集群资源的空闲比例。 价值 面向AI计算的容器服务，采用高性能GPU计算实例，并支持多容器共享GPU资源，在AI计算性能上比通用方案提升3~5倍以上，并大幅降低了AI计算的成本，同时帮助数据工程师在集群上轻松部署计算应用，您无

查看更多 →

该指标用于统计测量对象已使用内存占申请物理内存总量的百分比。 百分比（Percent） 0～100% GPU显卡使用率 该指标用于统计测量对象已使用的显卡占显卡容量的百分比。 百分比（Percent） 0～100% GPU显存使用率 该指标用于统计测量对象已使用的显存占显存容量的百分比。 百分比（Percent） 0～100%

查看更多 →

在侧边栏滑出的“配置管理”窗口中，修改kubelet组件的CPU管理策略配置（cpu-manager-policy）参数值，选择static。 单击“确定”，完成配置操作。 为Pod设置独占CPU Pod设置独占CPU（即CPU绑核）有如下几点要求： 节点上开启静态（static）CPU管理策略，具体方法请参见为

查看更多 →

请求数/秒 每秒不同响应码的请求个数 请求成功率(读) 百分比 每秒读请求中响应码为20x的请求比例 处理中请求数 个数 APIServer在处理中的请求个数 请求速率(读) 请求数/秒 每秒不同响应码的读请求个数 请求错误率(读) 百分比 每秒读请求的错误请求比例 请求时延(读)(P99)

查看更多 →