合平时不会持续高压力使用CPU，但偶尔需要提高计算性能完成工作负载的场景，可用于轻量级Web 服务器 、开发、测试环境以及中低性能数据库等场景。 GPU加速型：提供优秀的浮点计算能力，从容应对高实时、高并发的海量计算场景。P系列适合于深度学习，科学计算，CAE等；G系列适合于3D动画渲染，CAD等。仅支持1

查看更多 →

创建GPU函数 GPU函数概述 自定义镜像 方式创建GPU函数 定制运行时方式创建GPU函数 父主题： 创建函数

查看更多 →

GPU故障处理 前提条件 如需将GPU事件同步上报至AOM，集群中需安装云原生日志采集插件，您可前往AOM服务查看GPU插件隔离事件。 GPU插件隔离事件 当GPU显卡出现异常时，系统会将出现问题的GPU设备进行隔离，详细事件如表1所示。 表1 GPU插件隔离事件 事件原因 详细信息

查看更多 →

GPU采用xGPU虚拟化技术，能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。相对于静态分配来说，虚拟化的方案更加灵活，最大程度保证业务稳定的前提下，可以完全由用户定义使用的GPU数量，提高GPU利用率。 GPU虚拟化功能优势如下： 灵活：精细配置GPU算力占比及显存大

查看更多 →

提高Kafka消息处理效率 消息发送和消费的可靠性必须由分布式消息服务Kafka版和生产者以及消费者协同工作才能保证。同时开发者需要尽量合理使用分布式消息服务Kafka版的Topic，以提高消息发送和消息消费的效率与准确性。 对使用分布式消息服务Kafka版的生产者和消费者有如下的使用建议：

查看更多 →

GPU计算型 GPU计算单元包含的计算资源主要适用于政企用户部署GPU密集型业务到CloudPond上使用的场景，对应华为云E CS 的实例包含Pi系列，用户可根据机型规格情况选择对应的计算资源商品。具体规格请参考表1。 表1 GPU计算单元 名称 算力配置 描述 GPU计算单元-汇聚型-2Pi2

查看更多 →

GPU相关问题 日志提示"No CUDA-capable device is detected" 日志提示“RuntimeError: connect() timed out” 日志提示“cuda runtime error (10) : invalid device ordinal

查看更多 →

用户提供更加便捷、高效的GPU计算服务，有效承载AI模型推理、AI模型训练、音视频加速生产、图形图像加速等加速工作负载。 GPU函数主要使用于：仿真、模拟、科学计算、音视频、AI和图像处理等场景下，使用GPU硬件加速，从而提高业务处理效率。 表1 GPU函数规格 卡型 vGPU 显存（GB）

查看更多 →

图像搜索 服务 语音处理实验 介绍语音预处理， 语音合成 、 语音识别 服务 自然语言处理 实验 介绍中文文本分词、TF-IDF特征处理、Word2Vec、Doc2Vec，自然语言处理和 对话机器人 服务 ModelArts平台开发实验 介绍自动学习、数据管理、深度学习预置算法、深度学习自定义基础算法和进阶算法

查看更多 →

图2 请求命中率 优化缓存命中率 合理设置缓存过期时间 CDN加速的本质是缓存加速，把源站资源缓存在遍布全球的节点上，用户可以就近从边缘节点获取资源，从而达到加速的效果。您可以通过CDN控制台合理设置缓存过期时间来提高缓存命中率，建议如下： 对于不经常更新的静态文件（如图片类型、

查看更多 →

选择命名空间，如未创建，单击“创建命名空间”。命名空间类型分为“通用计算型”和“GPU加速型”： 通用计算型：支持创建含CPU资源的容器实例及工作负载，适用于通用计算场景。 GPU加速型：支持创建含GPU资源的容器实例及工作负载，适用于深度学习、科学计算、视频处理等场景。 访问密钥 单击“点击上传”，

查看更多 →

内存/磁盘容量/磁盘IOPS/GPU/GPU缓存使用率。 恢复： 根据业务情况，手工变更节点规格或增加节点数量。 CCE工作负载的CPU /内存/GPU/GPU缓存使用率过高 检测：通过AOM监控CCE工作负载的CPU/内存/GPU/GPU缓存使用率。 恢复： 根据业务情况，手工

查看更多 →

Connect作为消息管理系统，查看队列的消息内容对于定位问题与调试服务是至关重要的。 当消息的生产和消费过程中遇到疑难问题时，通过创建不同消费组可以帮助定位分析问题或调试服务对接。用户可以创建一个新的消费组，对主题中的消息进行消费并分析消费过程，这样不会影响其他服务对消息的处理。 父主题： MQS连接开发（开源客户端）

查看更多 →

GPU驱动故障 G系列弹性 云服务器 GPU驱动故障 GPU驱动异常怎么办？ GPU驱动不可用 GPU设备显示异常 T4 GPU设备显示异常 GPU实例启动异常，查看系统日志发现NVIDIA驱动空指针访问怎么办？

查看更多 →

管理GPU加速型ECS的GPU驱动 GPU驱动概述 Tesla驱动及CUDA工具包获取方式 （推荐）自动安装GPU加速型ECS的GPU驱动（Linux） （推荐）自动安装GPU加速型ECS的GPU驱动（Windows） 手动安装GPU加速型ECS的GRID驱动 手动安装GPU加速型ECS的Tesla驱动

查看更多 →

云桌面 1分钟 gpu_usage_gpu (Agent) GPU使用率 该指标用于统计测量对象当前的GPU使用率。 单位：百分比 采集方式（Linux）：通过调用GPU卡的libnvidia-ml.so.1库文件获取。 采集方式（Windows）：通过调用GPU卡的nvml.dll库获取。

查看更多 →

com/gpu 指定申请GPU的数量，支持申请设置为小于1的数量，比如 nvidia.com/gpu: 0.5，这样可以多个Pod共享使用GPU。GPU数量小于1时，不支持跨GPU分配，如0.5 GPU只会分配到一张卡上。 指定nvidia.com/gpu后，在调度时不会将负载调

查看更多 →

Megatron-DeepSpeed是一个基于PyTorch的深度学习模型训练框架。它结合了两个强大的工具：Megatron-LM和DeepSpeed，可在具有分布式计算能力的系统上进行训练，并且充分利用了多个GPU和深度学习加速器的并行处理能力。可以高效地训练大规模的语言模型。 Me

查看更多 →

百分比（%） 显存使用量（aom_node_gpu_memory_used_megabytes） 该指标用于统计测量对象已使用的显存。 ≥0 兆字节（MB） GPU使用率（aom_node_gpu_usage） 该指标用于统计测量对象的GPU使用率。 0～100 百分比（%） NPU存

查看更多 →

cce_gpu_encoder_utilization GPU卡 GPU卡编码使用率 cce_gpu_decoder_utilization GPU卡 GPU卡解码使用率 cce_gpu_utilization_process GPU进程 GPU各进程算力使用率 cce_gpu_memory_utilization_process

查看更多 →

如何提升训练效率，同时减少与OBS的交互？ 场景描述 在使用ModelArts进行自定义深度学习训练时，训练数据通常存储在对象存储服务（OBS）中，且训练数据较大时（如200GB以上），每次都需要使用GPU资源池进行训练，且训练效率低。 希望提升训练效率，同时减少与 对象存储OBS 的交互。可通过如下方式进行调整优化。

查看更多 →