百分比（%） 显存容量（aom_container_gpu_memory_free_megabytes） 该指标用于统计测量对象的显存容量。 >0 兆字节（MB） 显存使用率（aom_container_gpu_memory_usage） 该指标用于统计测量对象已使用的显存占显存容量的百分比。

查看更多 →

测量对象 监控周期（原始指标） gpu_usage_gpu_load GPU使用率 该指标用于统计测量对象当前的GPU使用率。 0-100% 云手机 服务器 1分钟 gpu_usage_vram GPU显存使用率（vram） 该指标用于统计测量对象当前的GPU V RAM 使用率。 0-100%

查看更多 →

已有镜像迁移至ModelArts用于训练模型 从0制作 自定义镜像 用于创建训练作业（PyTorch+CPU/GPU） 从0制作自定义镜像用于创建训练作业（MPI+CPU/GPU） 从0制作自定义镜像用于创建训练作业（Tensorflow+GPU） 从0制作自定义镜像用于创建训练作业（MindSpore+Ascend）

查看更多 →

该指标用于统计ModelArts用户服务的GPU使用情况。 单位：百分比。 ≥ 0% ModelArts模型负载 1分钟 gpu_mem_usage GPU显存使用率 该指标用于统计ModelArts用户服务的GPU显存使用情况。 单位：百分比。 ≥ 0% ModelArts模型负载

查看更多 →

支持基于TensorFlow、PyTorch版本镜像，CPU/GPU规格的资源类型。请根据实际局点支持的镜像和资源规格选择使用。 前提条件 为了保证训练结果中输出Summary文件，在编写训练脚本时，您需要在脚本中添加收集Summary相关代码。 TensorFlow引擎的训练脚

查看更多 →

采集方式（Windows）：通过调用GPU卡的nvml.dll库获取。 0-100% 云服务器 云服务器 - GPU 1分钟 gpu_free_mem GPU显存剩余量 该指标用于统计测量对象当前的GPU显存剩余量。 单位：MB 采集方式（Linux）：通过调用GPU卡的libnvidia-ml

查看更多 →

支持基于TensorFlow、PyTorch版本镜像，CPU/GPU规格的资源类型。请根据实际局点支持的镜像和资源规格选择使用。 前提条件 为了保证训练结果中输出Summary文件，在编写训练脚本时，您需要在脚本中添加收集Summary相关代码。 TensorFlow引擎的训练脚

查看更多 →

议进行模型的工业应用。 当前版本支持部署本地服务Predictor的AI引擎为：“XGBoost”、“Scikit_Learn”、“PyTorch”、“TensorFlow”和“Spark_MLlib”。具体版本信息可参考支持的常用引擎及其Runtime。 示例代码 在ModelArts

查看更多 →

CodeArts IDE Online暂不支持GPU加速，建议安装tensorflow-cpu减小磁盘占用，并加快安装速度。 鲲鹏镜像暂时无法安装TensorFlow，敬请期待后续更新。 父主题： 基于CodeArts IDE Online、TensorFlow和Jupyter Notebook开发深度学习模型

查看更多 →

为什么exec进入容器后执行GPU相关的操作报错？ 问题现象： exec进入容器后执行GPU相关的操作（例如nvidia-smi、使用tensorflow运行GPU训练任务等）报错“cannot open shared object file: No such file or directory”。

查看更多 →

公共镜像：即预置在ModelArts内部的AI引擎。 可以选择界面显示的公共镜像，也可以单击“前往AI Gallery获取更多镜像”进入AI Gallery镜像页面。AI Gallery上发布了一些较高版本的PyTorch、MindSpore、TensorFlow镜像。进入AI Gallery镜像页

查看更多 →

，创建为AI应用，直接用于部署服务。 从容器镜像中导入AI应用文件创建模型：针对ModelArts目前不支持的AI引擎，可以通过自定义镜像的方式将编写的模型镜像导入ModelArts，创建为AI应用，用于部署服务。 从AI Gallery订阅模型：ModelArts的AI Gal

查看更多 →

版本配套关系：https://docs.nvidia.com/grid/index.html 处理方法 重启GPU弹性云服务器。 若显示适配器恢复正常，则恢复完成。 若仍异常，则执行下一步。 请尝试重装GPU驱动或升级驱动版本。请参考安装GPU驱动。 如果用户使用的是vGPU实例，且实例驱动版本与主机版本不匹配，请重装版本匹配的驱动软件。

查看更多 →

捷、高效的GPU计算服务，有效承载AI模型推理、AI模型训练、音视频加速生产、图形图像加速等加速工作负载。 GPU函数主要使用于：仿真、模拟、科学计算、音视频、AI和图像处理等场景下，使用GPU硬件加速，从而提高业务处理效率。 表1 GPU函数规格 卡型 vGPU 显存（GB） vGPU

查看更多 →

分比（Percent）。 MEM：物理内存使用率（memUsage）百分比（Percent）。 GPU：GPU使用率（gpuUtil）百分比（Percent）。 GPU_MEM：显存使用率（gpuMemUsage）百分比（Percent）。 父主题： 查看作业详情

查看更多 →

0～100% GPU显卡使用量 该指标用于统计测量对象已使用的显存占显存容量的百分比。 百分比（Percent） 0～100% GPU显存使用量 该指标用于统计测量对象已使用的显存。 兆字节（Megabytes） ≥0 NPU显卡使用量 该指标用于统计测量对象已使用的NPU显存占NPU存储容量的百分比。

查看更多 →

工作负载异常：GPU节点部署服务报错 问题现象 客户在CCE集群的GPU节点上部署服务出现如下问题： 容器无法查看显存。 部署了7个GPU服务，有2个是能正常访问的，其他启动时都有报错。 2个是能正常访问的CUDA版本分别是10.1和10.0 其他服务CUDA版本也在这2个范围内

查看更多 →

基于GPU监控指标的工作负载弹性伸缩配置 集群中包含GPU节点时，可通过GPU指标查看节点GPU资源的使用情况，例如GPU利用率、显存使用量等。在获取GPU监控指标后，用户可根据应用的GPU指标配置弹性伸缩策略，在业务波动时自适应调整应用的副本数量。 前提条件 目标集群已创建，且

查看更多 →

是，该驱动版本与镜像可能存在兼容性问题，建议更换驱动版本，操作指导，请参考安装GPU驱动。 否，请执行下一步。 请尝试重启云服务器，再执行nvidia-smi查看GPU使用情况，确认是否正常。 如果问题依然存在，请联系客服。 父主题： GPU驱动故障

查看更多 →

势： 预留GPU实例 函数计算平台提供了默认的按量GPU实例之外的另一种GPU使用方式——预留GPU实例。如果您希望消除冷启动延时的影响，满足实时推理业务低延迟响应的要求，可以通过配置预留GPU实例来实现。更多关于预留模式的信息，请参见预留实例管理。 服务质量优先，服务成本次优

查看更多 →

管理GPU加速型E CS 的GPU驱动 GPU驱动概述 Tesla驱动及CUDA工具包获取方式 （推荐）自动安装GPU加速型ECS的GPU驱动（Linux） （推荐）自动安装GPU加速型ECS的GPU驱动（Windows） 手动安装GPU加速型ECS的GRID驱动 手动安装GPU加速型ECS的Tesla驱动

查看更多 →