各个模型深度学习训练加速框架的选择 LlamaFactory框架使用两种训练框架： DeepSpeed和Accelerate都是针对深度学习训练加速的工具，但是它们的实现方式和应用场景有所不同。 DeepSpeed是一种深度学习加速框架，主要针对大规模模型和大规模数据集的训练。D

查看更多 →

作。 GPU加速型Pod提供3种显卡，具体的规格如下所示： 表2 GPU加速型Pod规格 显卡类型 具体规格 可用区域 NVIDIA Tesla T4显卡 NVIDIA Tesla T4 x 1，CPU 8核，内存32GiB NVIDIA Tesla T4 x 2，CPU 16核，内存64GiB

查看更多 →

GPU加速型 云服务器 包括G系列和P系列两类。其中： G系列：图形加速型弹性云 服务器 ，适合于3D动画渲染、CAD等。 P系列：计算加速型或推理加速型弹性云服务器，适合于深度学习、科学计算、CAE等。 为了保障GPU加速型云服务器高可靠、高可用和高性能，该类型云服务器的公共镜像中会默认预置带GPU监控的CES

查看更多 →

容器中使用GPU显卡。 功能 描述 参考文档 Kubernetes默认GPU调度 Kubernetes默认GPU调度可以指定Pod申请GPU的数量，支持申请设置为小于1的数量，实现多个Pod共享使用GPU。 使用Kubernetes默认GPU调度 GPU虚拟化 GPU虚拟化能够动

查看更多 →

合动作空间，可行动作数量在10^7量级。对于CPU计算能力要求较高。 训练任务快速部署：客户进行AI强化学习时，需要短时间（10mins）拉起上万核CPU，对动态扩容能力要求较高。 竞享实例的应用 该AI学习引擎采用竞享实例提供CPU资源。得益于竞享实例的快速扩容与成本优势，引擎

查看更多 →

Online暂不支持GPU加速，建议安装tensorflow-cpu减小磁盘占用，并加快安装速度。 鲲鹏镜像暂时无法安装TensorFlow，敬请期待后续更新。 父主题： 基于CodeArts IDE Online、TensorFlow和Jupyter Notebook开发深度学习模型

查看更多 →

具体案例参考： 从0制作 自定义镜像 用于创建训练作业（PyTorch+CPU/GPU） 从0制作自定义镜像用于创建训练作业（MPI+CPU/GPU） 从0制作自定义镜像用于创建训练作业（Tensorflow+GPU） 从0制作自定义镜像用于创建训练作业（MindSpore+Ascend）

查看更多 →

部署GPU服务支持的Cuda版本是多少？ 默认支持Cuda版本为10.2，如果需要更高的版本，可以提工单申请技术支持。 父主题： 功能咨询

查看更多 →

wrapper 执行pynvml命令。 nvidia-ml-py3可以直接查询nvml c-lib库，而无需通过nvidia-smi。因此，这个模块比nvidia-smi周围的包装器快得多。 from pynvml import * nvmlInit() handle = nvmlDevi

查看更多 →

Agent检测时占用多少CPU和内存资源？ HSS服务采用轻量级Agent，占用资源极少，不会影响主机系统的正常业务运行。 具体占用的CPU、内存资源如下： CPU占用峰值 Agent运行时，CPU占用控制在1vCPU的20%以内。因此，实际占用比例与您购买的云服务器规格有关，详见不同规格主机Agent资源占用一览。

查看更多 →

选择命名空间，如未创建，单击“创建命名空间”。命名空间类型分为“通用计算型”和“GPU加速型”： 通用计算型：支持创建含CPU资源的容器实例及工作负载，适用于通用计算场景。 GPU加速型：支持创建含GPU资源的容器实例及工作负载，适用于深度学习、科学计算、视频处理等场景。 访问密钥 单击“点击上传”，

查看更多 →

GetSystemTimes获取。 0-100% 云服务器 1分钟 cpu_usage_idle (Agent) CPU空闲时间占比 该指标用于统计测量对象当前CPU空闲时间占比。 单位：百分比 采集方式（Linux）：通过计算采集周期内/proc/stat中的变化得出CPU空闲时间占比。 采集方式（Windows）：通过WindowsAPI

查看更多 →

该指标用于统计测量对象已使用内存占申请物理内存总量的百分比。 0～100 百分比（%） aom_node_virtual_memory_usage virMemUsedRate 虚拟内存使用率 该指标用于统计测量对象已使用虚拟内存占虚拟内存总量的百分比。 ≥0 兆字节（MB） 网络 aom_n

查看更多 →

CCE日志视图 图7 ModelArts日志视图 资源占用情况 在任务运行中，资源占用情况模块显示任务占用的CPU、内存、GPU/显存利用率、占用率百分比的折线图。默认显示CPU占用情况折线图。 图8 资源占用情况 双击任一图例：显示全部资源占用折线图。 单击指定图例：只显示该图例折线图。

查看更多 →

Long 资源规格的ID。 core String 资源规格的核数。 cpu String 资源规格CPU内存。 gpu_num Integer 资源规格GPU的个数。 gpu_type String 资源规格GPU的类型。 spec_code String 云资源的规格类型。 max_num

查看更多 →

显存可用量（aom_cluster_gpu_memory_free_megabytes） 该指标用于统计测量对象的显存可用量。 >0 兆字节（MB） 显存使用率（aom_cluster_gpu_memory_usage） 该指标用于统计测量对象已使用的显存占显存容量的百分比。 0～100 百分比（%） 显

查看更多 →

测量对象（维度） 监控周期（原始指标） disk_inodesUsedPercent (Agent) inode已使用占比 该指标用于统计测量对象当前磁盘已使用的inode占比。 单位：百分比 采集方式（Linux）：执行df -i命令，查看IUse%列数据。挂载点前缀路径长度不能超过64个字符

查看更多 →

够多的节点来调度新扩容的Pod，那么就需要为集群增加节点，从而保证业务能够正常提供服务。 弹性伸缩在CCE上的使用场景非常广泛，典型的场景包含在线业务弹性、大规模计算训练、深度学习GPU或共享GPU的训练与推理、定时周期性负载变化等。 CCE弹性伸缩 CCE的弹性伸缩能力分为如下两个维度：

查看更多 →

信息。 CPU：CPU使用率（cpuUsage）百分比（Percent）。 MEM：物理内存使用率（memUsage）百分比（Percent）。 GPU：GPU使用率（gpuUtil）百分比（Percent）。 GPU_MEM：显存使用率（gpuMemUsage）百分比（Percent）。

查看更多 →

高吞吐的数据访问挑战：随着企业使用 GPU/NPU 越来越多，底层存储的 IO 已经跟不上计算能力，企业希望存储系统能提供高吞吐的数据访问能力，充分发挥 GPU/NPU 的计算性能，包括训练数据的读取，以及为了容错做的检查点（以下简称Checkpoint）保存和加载。训练数据的读取要尽量读得快，减少计算对

查看更多 →

响应速度快：单张图像识别速度小于0.1秒。 内容审核-文本 内容审核 -文本有以下应用场景： 电商评论筛查 审核电商网站产品评论，智能识别有色情等违规评论，保证良好用户体验。 场景优势如下： 准确率高：基于改进的深度学习算法，检测准确率高。 响应速度快：响应速度小于0.1秒。 注册昵称审核

查看更多 →