NPU资源配额，配置时limit和request配置相同 NPU数量（Snt9B） 参数名 取值范围 默认值 是否允许修改 作用范围 huawei.com/ascend-1980 大于等于0小于等于1000整数 无 允许 - Snt9B NPU资源配额，配置时limit和request配置相同

查看更多 →

2 x 2*10GE 高性能计算型 主要使用在受计算限制的高性能处理器的应用程序上。它需要更多处理器核数、大量的内存和高吞吐量的存储系统。该规格使用V5 CPU 服务器 ，并结合IB网卡，适用于HPC高性能计算等场景。 表4 高性能计算型规格详情 规格名称/ID CPU 内存 本地磁盘

查看更多 →

GPU虚拟化节点弹性伸缩配置 当集群中GPU虚拟化资源不足时，支持自动进行GPU节点的弹性伸缩。本文将指导您如何创建GPU虚拟化节点的弹性伸缩策略。 前提条件 已创建一个v1.28或v1.29版本的集群。 在集群中安装CCE AI套件（NVIDIA GPU）（2.7.5及以上版本

查看更多 →

CCE云容器引擎是否支持负载均衡？ CCE是否和深度学习服务可以内网通信？ CCE是否和深度学习服务可以内网通信？ CCE是否和深度学习服务可以内网通信？ CCE是否和深度学习服务可以内网通信？ CCE是否和深度学习服务可以内网通信？ CCE是否和深度学习服务可以内网通信？ 更多 远程登录 应用容器化改造介绍

查看更多 →

A050104 GPU 显存 ECC错误到达64次。 通过nvidia-smi -a查询到Retired Pages中，Single Bit和Double Bit之和大于64。 A050148 GPU 其他 infoROM告警。 执行nvidia-smi的返回信息中包含“infoROM

查看更多 →

兆字节（MB） 显存可用量（aom_cluster_gpu_memory_free_megabytes） 该指标用于统计测量对象的显存可用量。 >0 兆字节（MB） 显存使用率（aom_cluster_gpu_memory_usage） 该指标用于统计测量对象已使用的显存占显存容量的百分比。

查看更多 →

指标说明 NPU/GPU利用率 在训练过程中，机器的NPU/GPU占用情况（横坐标时间，纵坐标占用率）。 显存利用率 在训练过程中，机器的显存占用情况（横坐标时间，纵坐标占用率）。 吞吐 在训练过程中，每卡处理tokens数量（tokens/s/p）。每种框架计算方式不一致，例如，ATB可通过“samples

查看更多 →

service_running_instance_count Integer 服务运行中实例数量。 service_instance_count Integer 服务实例数量。 req_count_per_min Long 服务分钟调用量，这里指当前时间上一分钟的服务调用总量。 表5 Monitor 参数 参数类型

查看更多 →

查询和分析图 在“图管理”页面，可以通过“访问”操作对创建好的图数据进行查询和分析。 操作步骤 在“图管理”页面，选择已创建的图，在“操作”列选择“访问”，进入图引擎编辑器页面。 编辑器页面分布如图1所示，您可按照以下操作来熟悉编辑器功能： 算法区：选择任意算法，填写相关参数，执

查看更多 →

IP地址即数据库加密与访问控制的IP，代理端口即添加数据资产时所配置的代理端口。 在数据库工具上配置访问代理地址并连接。 主机和端口请参照前面步骤，用户名和密码根据数据库实际情况配置。以下图片仅为示例，请根据具体数据库工具配置代理访问连接。 图4 配置访问代理地址 在数据库工具上执行异常SQL语句。

查看更多 →

使用SSH工具连接Notebook，服务器的进程被清理了，GPU使用率显示还是100% 原因是代码运行卡死导致被进程清理，GPU显存没有释放；或者代码运行过程中内存溢出导致程序被清理，需要释放下显存，清理GPU，然后重新启动。为了避免进程结束引起的代码未保存，建议您每隔一段时间保存下代码输出至OBS桶或者容器

查看更多 →

GPU调度 GPU节点驱动版本 使用Kubernetes默认GPU调度 GPU虚拟化 监控GPU资源指标 基于GPU监控指标的工作负载弹性伸缩配置 GPU虚拟化节点弹性伸缩配置 GPU故障处理 父主题： 调度

查看更多 →

插件安装完成后，GPU 虚拟化和节点池驱动配置请前往“配置中心 > 异构资源配置”页进行设置。 单击“安装”，安装插件的任务即可提交成功。 卸载插件将会导致重新调度的GPU Pod无法正常运行，但已运行的GPU Pod不会受到影响。 验证插件 插件安装完成后，在GPU节点及调度了G

查看更多 →

医疗智能体 （ EIHealth ）平台是基于华为云AI和大数据技术优势，为基因组分析、药物研发和临床研究三个领域提供的专业AI研发平台。平台提供大量相关模型、算法及数据资源，是一站式的医疗研发平台。 医疗智能体提供以下子服务： 基因组分析 提供高性能、高可靠性、高性价比的基因测序计算、存储、分析和AI能力支持，让科研过程标准化、可执行。

查看更多 →

ess GPU的详细功能和优势。 传统GPU长驻使用方式存在许多问题，例如，需要提前规划好资源需求并容易造成资源浪费。而Serverless GPU则提供了一种更加灵活的方式来利用GPU计算资源，用户只需选择合适的GPU型号和计算资源规模，就可以帮助用户有效地解决GPU长驻使用方

查看更多 →

。 在Kubernetes的集群中，“弹性伸缩”一般涉及到扩缩容Pod个数以及Node个数。Pod代表应用的实例数（每个Pod包含一个或多个容器），当业务高峰的时候需要扩容应用的实例个数。所有的Pod都是运行在某一个节点（虚机或裸机）上，当集群中没有足够多的节点来调度新扩容的Po

查看更多 →

API创建和使用容器负载。 图2 产品架构 基于云平台底层网络和存储服务（VPC、ELB、NAT、EVS、OBS、SFS等），提供丰富的网络和存储功能。 提供高性能、异构的基础设施（x86服务器、GPU加速型服务器、Ascend加速型服务器），容器直接运行在物理服务器上。 使用Kata容器提供虚拟机级别的

查看更多 →

规格中数字分别代表什么含义？ 在创建作业时，若需选择资源规格，您可通过规格名称了解对应规格的相关信息，如加速卡显存、CPU核心数、内存、硬盘大小。 例如，“GPU: 1*GP-Vnt1(32GB) | CPU: 8 核 64GB 3200GB”中，32G为GPU显存、8核为CPU

查看更多 →

反复调整优化。 训练模型 俗称“建模”，指通过分析手段、方法和技巧对准备好的数据进行探索分析，从中发现因果关系、内部联系和业务规律，为商业目的提供决策参考。训练模型的结果通常是一个或多个机器学习或深度学习模型，模型可以应用到新的数据中，得到预测、评价等结果。 业界主流的AI引擎有

查看更多 →

Notebook业务指标 Notebook cache目录大小 ma_container_notebook_cache_dir_size_bytes GPU和NPU类型的Notebook会在“/cache”目录上挂载一块高速本地磁盘，该指标描述该目录的总大小。 字节（Bytes） ≥0 NA NA

查看更多 →

info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（pipeline-model-parallel-size），可以尝试增加 TP和PP的值，一般TP×P

查看更多 →