2 x 2*10GE 高性能计算型 主要使用在受计算限制的高性能处理器的应用程序上。它需要更多处理器核数、大量的内存和高吞吐量的存储系统。该规格使用V5 CPU 服务器 ，并结合IB网卡，适用于HPC高性能计算等场景。 表4 高性能计算型规格详情 规格名称/ID CPU 内存 本地磁盘

查看更多 →

0：不健康 AI处理器功耗 ma_container_npu_ai_core_power_usage_watts 昇腾系列AI处理器功耗（snt9和snt3为处理器功耗，snt3P为板卡功耗） 瓦特（W） >0 AI处理器温度 ma_container_npu_ai_core_temperature_celsius

查看更多 →

本章节介绍什么是准实时推理场景，以及如何使用GPU按量实例和如何基于GPU按量实例构建使用成本较低的准实时推理服务。 特征 在准实时推理应用场景中，工作负载具有以下一个或多个特征： 调用稀疏 日均调用几次到几万次，日均GPU实际使用时长远低于6~10小时，GPU存在大量闲置。 单次处理耗时长

查看更多 →

物理磁盘已使用总容量和物理磁盘总容量指标仅统计本地磁盘分区的文件系统类型，不统计主机通过网络形式挂载的文件系统（juicefs、nfs、smb等）。 表2 主机指标维度 维度 说明 clusterId 集群ID。 clusterName 集群名称。 gpuName GPU名称。 gpuID

查看更多 →

API创建和使用容器负载。 图2 产品架构 基于云平台底层网络和存储服务（VPC、ELB、NAT、EVS、OBS、SFS等），提供丰富的网络和存储功能。 提供高性能、异构的基础设施（x86服务器、GPU加速型服务器、Ascend加速型服务器），容器直接运行在物理服务器上。 使用Kata容器提供虚拟机级别的

查看更多 →

功能说明 为使用户更好地掌握自己的ModelArts在线服务和对应模型负载的运行状态，云服务平台提供了云监控。您可以使用该服务监控您的ModelArts在线服务和对应模型负载，执行自动实时监控、告警和通知操作，帮助您更好地了解服务和模型的各项性能指标。 命名空间 SYS.ModelArts

查看更多 →

指标说明 NPU/GPU利用率 在训练过程中，机器的NPU/GPU占用情况（横坐标时间，纵坐标占用率）。 显存利用率 在训练过程中，机器的显存占用情况（横坐标时间，纵坐标占用率）。 吞吐 在训练过程中，每卡处理tokens数量（tokens/s/p）。每种框架计算方式不一致，例如，ATB可通过“samples

查看更多 →

Engine Activity 表示在一个时间间隔内，Graphics或Compute引擎处于Active的时间占比。该值表示所有Graphics和Compute引擎的平均值。Graphics或Compute引擎处于Active是指Graphics或Compute Context绑定到线

查看更多 →

查询和分析图 在“图管理”页面，可以通过“访问”操作对创建好的图数据进行查询和分析。 操作步骤 在“图管理”页面，选择已创建的图，在“操作”列选择“访问”，进入图引擎编辑器页面。 编辑器页面分布如图1所示，您可按照以下操作来熟悉编辑器功能： 算法区：选择任意算法，填写相关参数，执

查看更多 →

GPU调度 GPU节点驱动版本 使用Kubernetes默认GPU调度 GPU虚拟化 监控GPU资源指标 基于GPU监控指标的弹性伸缩实践 GPU故障处理 父主题： 调度

查看更多 →

面。在训练作业列表中，单击目标作业名称，查看该作业的详情。您可以在“资源占用情况”页签查看到如下指标信息。 CPU：CPU使用率（cpuUsage）百分比（Percent）。 MEM：物理内存使用率（memUsage）百分比（Percent）。 GPU：GPU使用率（gpuUtil）百分比（Percent）。

查看更多 →

ytes GPU和NPU类型的Notebook会在“/cache”目录上挂载一块高速本地磁盘，该指标描述该目录的总大小。 字节（Bytes） ≥0 Notebook cache目录利用率 ma_container_notebook_cache_dir_util GPU和NPU类型

查看更多 →

11及其更高版本的kubernetes集群中驱动模式为devicemapper的容器。 ≥0 兆字节（MB） aom_container_filesystem_capacity_megabytes 文件系统容量 该指标用于统计测量对象文件系统的容量。仅支持1.11及其更高版本的kubernetes集群中驱动模式为devicemapper的容器。

查看更多 →

11及其更高版本的kubernetes集群中驱动模式为devicemapper的容器。 ≥0 兆字节（MB） 文件系统容量（aom_container_filesystem_capacity_megabytes） 该指标用于统计测量对象文件系统的容量。仅支持1.11及其更高版本的kubernetes集群中驱动模式为devicemapper的容器。

查看更多 →

其他服务CUDA版本也在这2个范围内 在GPU服务容器中发现一些新增的文件core.*，在以前的部署中没有出现过。 问题定位 GPU插件的驱动版本较低，客户单独下载驱动安装后正常。 客户工作负载中未声明需要gpu资源。 建议方案 节点安装了gpu-beta（gpu-device-plugin）插件后，会自动安装nv

查看更多 →

反复调整优化。 训练模型 俗称“建模”，指通过分析手段、方法和技巧对准备好的数据进行探索分析，从中发现因果关系、内部联系和业务规律，为商业目的提供决策参考。训练模型的结果通常是一个或多个机器学习或深度学习模型，模型可以应用到新的数据中，得到预测、评价等结果。 业界主流的AI引擎有

查看更多 →

。 在Kubernetes的集群中，“弹性伸缩”一般涉及到扩缩容Pod个数以及Node个数。Pod代表应用的实例数（每个Pod包含一个或多个容器），当业务高峰的时候需要扩容应用的实例个数。所有的Pod都是运行在某一个节点（虚机或裸机）上，当集群中没有足够多的节点来调度新扩容的Po

查看更多 →

String 用户项目ID。获取方法请参见获取项目ID和名称。 表2 查询检索参数说明 参数 是否为必选 参数类型 说明 job_type 否 String 指定作业的类型，可选的有“train”和“inference”。查询自动学习资源规格无需此参数。 engine_id 否 Long

查看更多 →

选择命名空间，如未创建，单击“创建命名空间”。命名空间类型分为“通用计算型”和“GPU加速型”： 通用计算型：支持创建含CPU资源的容器实例及工作负载，适用于通用计算场景。 GPU加速型：支持创建含GPU资源的容器实例及工作负载，适用于深度学习、科学计算、视频处理等场景。 访问密钥 单击“点击上传”

查看更多 →

务，每套折合10人天投入工作量； 188,160.00 每套 计费模式 本服务为一次性计费方式。 变更配置 本服务如已启动交付，不支持退订和变更，用户可以根据自身业务的实际情况购买；如因下单购买规格错误，可支持退订。 续费 本服务为一次性交付方式，需要续费。如有新的需求，可重新按需新下单购买。

查看更多 →

GPU负载 使用Tensorflow训练神经网络 使用Nvidia-smi工具

查看更多 →