各个模型深度学习训练加速框架的选择 LlamaFactory框架使用两种训练框架： DeepSpeed和Accelerate都是针对深度学习训练加速的工具，但是它们的实现方式和应用场景有所不同。 DeepSpeed是一种深度学习加速框架，主要针对大规模模型和大规模数据集的训练。D

查看更多 →

（计算空泡），从而提高训练效率。 学习率预热 不同的学习率调度器（决定什么阶段用多大的学习率）有不同的学习率调度相关超参，例如线性调度可以选择从一个初始学习率lr-warmup-init开始预热。您可以选择多少比例的训练迭代步使用预热阶段的学习率。不同的训练框架有不同的参数命名，需要结合代码实现设置对应的参数。

查看更多 →

作。 GPU加速型Pod提供3种显卡，具体的规格如下所示： 表2 GPU加速型Pod规格 显卡类型 具体规格 可用区域 NVIDIA Tesla T4显卡 NVIDIA Tesla T4 x 1，CPU 8核，内存32GiB NVIDIA Tesla T4 x 2，CPU 16核，内存64GiB

查看更多 →

容器中使用GPU显卡。 功能 描述 参考文档 Kubernetes默认GPU调度 Kubernetes默认GPU调度可以指定Pod申请GPU的数量，支持申请设置为小于1的数量，实现多个Pod共享使用GPU。 使用Kubernetes默认GPU调度 GPU虚拟化 GPU虚拟化能够动

查看更多 →

适合于深度学习、科学计算、CAE等。 为了保障GPU加速型 云服务器 高可靠、高可用和高性能，该类型云 服务器 的公共镜像中会默认预置带GPU监控的CES Agent。正常使用GPU监控功能还需完成配置委托，详细操作，请参见如何配置委托？。 如需手动移除GPU监控功能，可登录GPU加速型云服务器并执行卸载命令：bash

查看更多 →

合动作空间，可行动作数量在10^7量级。对于CPU计算能力要求较高。 训练任务快速部署：客户进行AI强化学习时，需要短时间（10mins）拉起上万核CPU，对动态扩容能力要求较高。 竞享实例的应用 该AI学习引擎采用竞享实例提供CPU资源。得益于竞享实例的快速扩容与成本优势，引擎

查看更多 →

具体案例参考： 从0制作 自定义镜像 用于创建训练作业（PyTorch+CPU/GPU） 从0制作自定义镜像用于创建训练作业（MPI+CPU/GPU） 从0制作自定义镜像用于创建训练作业（Tensorflow+GPU） 从0制作自定义镜像用于创建训练作业（MindSpore+Ascend）

查看更多 →

wrapper 执行pynvml命令。 nvidia-ml-py3可以直接查询nvml c-lib库，而无需通过nvidia-smi。因此，这个模块比nvidia-smi周围的包装器快得多。 from pynvml import * nvmlInit() handle = nvmlDevi

查看更多 →

该指标用于统计测量对象已使用内存占申请物理内存总量的百分比。 0～100 百分比（%） aom_node_virtual_memory_usage virMemUsedRate 虚拟内存使用率 该指标用于统计测量对象已使用虚拟内存占虚拟内存总量的百分比。 ≥0 兆字节（MB） 网络 aom_n

查看更多 →

Online暂不支持GPU加速，建议安装tensorflow-cpu减小磁盘占用，并加快安装速度。 鲲鹏镜像暂时无法安装TensorFlow，敬请期待后续更新。 父主题： 基于CodeArts IDE Online、TensorFlow和Jupyter Notebook开发深度学习模型

查看更多 →

部署GPU服务支持的Cuda版本是多少？ 默认支持Cuda版本为10.2，如果需要更高的版本，可以提工单申请技术支持。 父主题： 功能咨询

查看更多 →

选择命名空间，如未创建，单击“创建命名空间”。命名空间类型分为“通用计算型”和“GPU加速型”： 通用计算型：支持创建含CPU资源的容器实例及工作负载，适用于通用计算场景。 GPU加速型：支持创建含GPU资源的容器实例及工作负载，适用于深度学习、科学计算、视频处理等场景。 访问密钥 单击“点击上传”，

查看更多 →

Agent检测时占用多少CPU和内存资源？ HSS服务采用轻量级Agent，占用资源极少，不会影响主机系统的正常业务运行。 具体占用的CPU、内存资源如下： CPU占用峰值 Agent运行时，CPU占用控制在1vCPU的20%以内。因此，实际占用比例与您购买的云服务器规格有关，详见不同规格主机Agent资源占用一览。

查看更多 →

显存可用量（aom_cluster_gpu_memory_free_megabytes） 该指标用于统计测量对象的显存可用量。 >0 兆字节（MB） 显存使用率（aom_cluster_gpu_memory_usage） 该指标用于统计测量对象已使用的显存占显存容量的百分比。 0～100 百分比（%） 显

查看更多 →

该指标用于统计测量对象当前CPU空闲时间占比。 单位：百分比 采集方式（Linux）：通过计算采集周期内/proc/stat中的变化得出CPU空闲时间占比。 采集方式（Windows）：通过WindowsAPI GetSystemTimes获取。 0-100% 云服务器 1分钟 cpu_usage_user

查看更多 →

信息。 CPU：CPU使用率（cpuUsage）百分比（Percent）。 MEM：物理内存使用率（memUsage）百分比（Percent）。 GPU：GPU使用率（gpuUtil）百分比（Percent）。 GPU_MEM：显存使用率（gpuMemUsage）百分比（Percent）。

查看更多 →

Long 资源规格的ID。 core String 资源规格的核数。 cpu String 资源规格CPU内存。 gpu_num Integer 资源规格GPU的个数。 gpu_type String 资源规格GPU的类型。 spec_code String 云资源的规格类型。 max_num

查看更多 →

诊断异常项（示例） 深度诊断结论 诊断项ID 诊断项名称 诊断结论 guestos.cpu.high_total_usage 总CPU占用率过高 实例整体CPU占用率已超过80%。 guestos.cpu.high_process_usage CPU使用率过高的进程 单进程CPU占用率超过整机的50%。

查看更多 →

响应速度快：单张图像识别速度小于0.1秒。 内容审核-文本 内容审核 -文本有以下应用场景： 电商评论筛查 审核电商网站产品评论，智能识别有色情等违规评论，保证良好用户体验。 场景优势如下： 准确率高：基于改进的深度学习算法，检测准确率高。 响应速度快：响应速度小于0.1秒。 注册昵称审核

查看更多 →

CCE日志视图 图7 ModelArts日志视图 资源占用情况 在任务运行中，资源占用情况模块显示任务占用的CPU、内存、GPU/显存利用率、占用率百分比的折线图。默认显示CPU占用情况折线图。 图8 资源占用情况 双击任一图例：显示全部资源占用折线图。 单击指定图例：只显示该图例折线图。

查看更多 →

测量对象（维度） 监控周期（原始指标） disk_inodesUsedPercent (Agent) inode已使用占比 该指标用于统计测量对象当前磁盘已使用的inode占比。 单位：百分比 采集方式（Linux）：执行df -i命令，查看IUse%列数据。挂载点前缀路径长度不能超过64个字符

查看更多 →