各个模型深度学习训练加速框架的选择 LlamaFactory框架使用两种训练框架： DeepSpeed和Accelerate都是针对深度学习训练加速的工具，但是它们的实现方式和应用场景有所不同。 DeepSpeed是一种深度学习加速框架，主要针对大规模模型和大规模数据集的训练。D

查看更多 →

GPU调度 GPU节点驱动版本 使用Kubernetes默认GPU调度 GPU虚拟化 监控GPU资源指标 基于GPU监控指标的工作负载弹性伸缩配置 GPU虚拟化节点弹性伸缩配置 GPU故障处理 父主题： 调度

查看更多 →

GPU调度 GPU调度概述 准备GPU资源 创建GPU应用 监控GPU资源 父主题： 管理本地集群

查看更多 →

GPU调度概述 工作负载支持使用节点GPU资源，GPU资源使用可以分为如下两种模式： GPU静态分配（共享/独享）：按比例给Pod分配GPU显卡资源，支持独享（分配单张/多张显卡）和共享（部分显卡）方式。 GPU虚拟化：U CS On Premises GPU采用xGPU虚拟化技术

查看更多 →

HPC作业类型混合部署。 多队列场景调度优化：支持分队列调度，提供队列优先级、多级队列等复杂任务调度能力。 多种高级调度策略：支持gang-scheduling、公平调度、资源抢占、GPU拓扑等高级调度策略。 多任务模板：支持单一Job多任务模板定义，打破Kubernetes原生资源束缚，Volcano

查看更多 →

适合于深度学习、科学计算、CAE等。 为了保障GPU加速型 云服务器 高可靠、高可用和高性能，该类型云 服务器 的公共镜像中会默认预置带GPU监控的CES Agent。正常使用GPU监控功能还需完成配置委托，详细操作，请参见如何配置委托？。 如需手动移除GPU监控功能，可登录GPU加速型云服务器并执行卸载命令：bash

查看更多 →

应用GPU资源调度方式 IEF支持多应用共享的方式使用GPU显卡。 IEF支持单个应用使用多个GPU显卡。 GPU资源调度基于GPU显存容量，调度采用GPU显存预分配方式而非实时GPU显存资源。 当应用需要使用的GPU显存资源小于单个GPU卡显存时，支持以共享方式进行资源调度，对

查看更多 →

通过nvidia.com/gpu指定申请GPU的数量，支持申请设置为小于1的数量，比如nvidia.com/gpu: 0.5，这样可以多个Pod共享使用GPU。GPU数量小于1时，不支持跨GPU分配，如0.5 GPU只会分配到一张卡上。 使用nvidia.com/gpu参数指定GPU数量时，re

查看更多 →

兼容Kubernetes默认GPU调度模式 开启GPU虚拟化后，工作负载调度GPU时建议使用显存隔离模式（即设置volcano.sh/gpu-mem.128Mi资源）和算显隔离模式（即同时设置volcano.sh/gpu-mem.128Mi和volcano.sh/gpu-core.perc

查看更多 →

增强型CPU管理策略 GPU调度 CCE为集群中的GPU异构资源提供调度能力，支持在容器中使用GPU显卡。 功能 描述 参考文档 Kubernetes默认GPU调度 Kubernetes默认GPU调度可以指定Pod申请GPU的数量，支持申请设置为小于1的数量，实现多个Pod共享使用GPU。 使用Kubernetes默认GPU调度

查看更多 →

型性能，确保业务平稳运行。 全栈式技术服务：提供算法框架、计算框架、加速框架、硬件组网以及芯片型号等组合的全栈支持能力，确保模型在不同硬件平台上的高效运行。 高效模型迁移适配：通过自动化迁移工具和专业的技术支持，实现模型从GPU平台快速、无缝地迁移到昇腾NPU平台，确保模型在新平台上的性能和精度不受影响；

查看更多 →

点（虚机或裸机）上，当集群中没有足够多的节点来调度新扩容的Pod，那么就需要为集群增加节点，从而保证业务能够正常提供服务。 弹性伸缩在CCE上的使用场景非常广泛，典型的场景包含在线业务弹性、大规模计算训练、深度学习GPU或共享GPU的训练与推理、定时周期性负载变化等。 CCE弹性伸缩

查看更多 →

{3:.0f}MB".format(gpu.memoryFree, gpu.memoryUsed, gpu.memoryUtil*100, gpu.memoryTotal)) 注：用户在使用pytorch/tensorflow等深度学习框架时也可以使用框架自带的api进行查询。 父主题：

查看更多 →

Worker，TFJob1和TFJob2各自分配到2个GPU。但是TFJob1和TFJob2均需要4块GPU卡才能运行起来。这样TFJob1和TFJob2处于互相等待对方释放资源，这种死锁情况造成了GPU资源的浪费。 亲和调度问题 分布式训练中，Ps和Worker存在很频繁的数据

查看更多 →

2 cce-gpu-topology-predicate GPU拓扑调度预选算法 - - cce-gpu-topology-priority GPU拓扑调度优选算法 - - cce-gpu 结合UCS的GPU插件支持GPU资源分配，支持小数GPU配置 说明： 小数GPU配置的前提条

查看更多 →

集成主流深度学习框架，包括PyTorch，TensorFlow，Jittor，PaddlePaddle等，内置经典网络结构并支持用户自定义上传网络，同时，针对遥感影像多尺度、多通道、多载荷、多语义等特征，内置遥感解译专用模型，支持用户进行预训练和解译应用。 图18 部分深度学习模型参数

查看更多 →

ServiceStage应用调度与资源管理框架 父主题： 图解应用管理与运维平台

查看更多 →

如何避免非GPU/NPU负载调度到GPU/NPU节点？ 问题现象 当集群中存在GPU/NPU节点和普通节点混合使用的场景时，普通工作负载也可以调度到GPU/NPU节点上，可能出现GPU/NPU资源未充分利用的情况。 问题原因 由于GPU/NPU节点同样提供CPU、内存资源，在一般

查看更多 →

华为云帮助中心，为用户提供产品简介、价格说明、购买指南、用户指南、API参考、最佳实践、常见问题、视频帮助等技术文档，帮助您快速上手使用华为云服务。

查看更多 →

产品优势 基因容器基于Kubernetes智能化基因计算任务调度和Spark等加速服务，为您提供低成本高性能的基因测序解决方案。支持对接深度学习框架，方便您深度解读报告。 秒级并发 基因容器利用容器技术的秒级并发能力，可将WGS从30小时缩短至5小时以内，对比同类竞品，使用相同样本的情况下，资源利用率大幅提升。

查看更多 →

name: 'cce-gpu' cce-gpu 结合CCE的GPU插件支持GPU资源分配，支持小数GPU配置。 说明： 1.10.5及以上版本的插件不再支持该插件，请使用xgpu插件。 小数GPU配置的前提条件为CCE集群GPU节点为共享模式，检查集群是否关闭GPU共享，请参见修改C

查看更多 →