gpu_utilization gpu使用率。 该GPU的算力使用率。 % instance_id，gpu memory_utilization 显存使用率。 该GPU的显存使用率。 % instance_id，gpu gpu_performance gpu性能状态。 该GPU的性能状态。 - instance_id，gpu

查看更多 →

业务可以容忍GPU冷启动耗时，或者业务流量波形对应的冷启动概率低。 功能优势 函数计算为准实时推理工作负载提供以下功能优势： 原生Serverless使用方式 函数计算平台默认提供的按量GPU实例使用方式，会自动管理GPU计算资源。根据业务的请求数量，自动弹性GPU实例，最低0个实例，最大可配置实例数量。

查看更多 →

GPU卡-XGPU设备显存分配率 百分比 每张GPU卡上的GPU虚拟化设备的显存总量占这张GPU卡显存总量的比例 计算公式：显卡上所有XGPU设备能使用的显存上限之和 / 显卡显存总量 GPU卡-XGPU设备算力使用率 百分比 每张GPU卡的GPU虚拟化设备的算力使用率 计算公

查看更多 →

Vnt1机型软件版本建议 gpu driver version : 440.95.01 gpu driver version : 440.95.01（GPU驱动在宿主机中安装，镜像中无需安装） cuda runtime version : 10.2（PyTorch自带，无需关心）

查看更多 →

Tesla系列P4、P40、T4等型号GPU。 含有GPU硬件的机器，作为边缘节点的时候可以不使用GPU。 如果边缘节点使用GPU，您需要在纳管前安装GPU驱动。 目前只有使用x86架构的GPU节点才能纳管到IEF中使用。 NPU（可选） 昇腾AI加速处理器。 说明： 当前支持集成了昇腾处理器的边缘节点，如Atlas

查看更多 →

GPU插件检查异常处理 检查项内容 检查到本次升级涉及GPU插件，可能影响新建GPU节点时GPU驱动的安装。 解决方案 由于当前GPU插件的驱动配置由您自行配置，需要您验证两者的兼容性。建议您在测试环境验证安装升级目标版本的GPU插件，并配置当前GPU驱动后，测试创建节点是否正常使用。

查看更多 →

GPU虚拟化概述 CCE GPU虚拟化采用自研xGPU虚拟化技术，能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。相对于静态分配来说，虚拟化的方案更加灵活，最大程度保证业务稳定的前提下，可以完全由用户自己定义使用的GPU量，提高GPU利用率。

查看更多 →

/nvidia-smi 若能正常返回GPU信息，说明设备可用，插件安装成功。 GPU驱动支持列表 当前GPU驱动支持列表仅针对1.2.28及以上版本的GPU插件。 如果您需要安装最新版本的GPU驱动，请将您的GPU插件升级到最新版本。 表1 GPU驱动支持列表 GPU型号 支持集群类型 机型规格

查看更多 →

GPU实例故障自诊断 GPU实例故障，如果已安装GPU监控的CES Agent，当GPU 服务器 出现异常时则会产生事件通知，可以及时发现问题避免造成用户损失。如果没有安装CES Agent，只能依赖用户对故障的监控情况，发现故障后及时联系技术支持处理。 GPU实例故障处理流程 GPU实例故障分类列表

查看更多 →

应用GPU资源调度方式 IEF支持多应用共享的方式使用GPU显卡。 IEF支持单个应用使用多个GPU显卡。 GPU资源调度基于GPU显存容量，调度采用GPU显存预分配方式而非实时GPU显存资源。 当应用需要使用的GPU显存资源小于单个GPU卡显存时，支持以共享方式进行资源调度，对

查看更多 →

安装nvidia-fabricmanager服务 A100/A800 GPU支持 NvLink & NvSwitch，若您使用多GPU卡的机型，需额外安装与驱动版本对应的nvidia-fabricmanager服务使GPU卡间能够互联，否则可能无法正常使用GPU实例。 本文以驱动版本470.103

查看更多 →

主机监控 在视频直播中，弹性 云服务器 作为核心基础，细微的性能变化，可能会引起云服务上的业务受到大幅震荡。为了监控更细颗粒度的监控指标，可以在弹性云服务器中安装配置Agent。 本章节介绍如何对弹性云服务器的CPU使用率、内存使用率、磁盘使用率设置告警规则。并在弹性伸缩中配置弹性伸

查看更多 →

如何避免非GPU/NPU负载调度到GPU/NPU节点？ 问题现象 当集群中存在GPU/NPU节点和普通节点混合使用的场景时，普通工作负载也可以调度到GPU/NPU节点上，可能出现GPU/NPU资源未充分利用的情况。 问题原因 由于GPU/NPU节点同样提供CPU、内存资源，在一般

查看更多 →

主机管理 批量创建主机资产 获取主机资产 删除主机资产 父主题： API

查看更多 →

管理主机 通过RemoteShell，您可以连接华为云主机或任意主机。对于每个已配置的主机，您可以创建和维护多个用户连接。 添加主机连接 执行以下操作之一： 要连接华为云服务器，请在“云资源”>“弹性云服务器(E CS )”区域中选择要连接的服务器，单击打开“新建远程连接”窗口。 要

查看更多 →

主机授权 只有经过授权的主机，态势感知才能对其执行漏洞扫描。请在添加主机后，使用此功能对Linux或Windows主机进行授权。 目前Linux主机授权可通过“SSH账号登录”和“授权脚本执行”两种方式，而Windows主机授权通过关联“Windows账号登录”方式。 前提条件 已在“ 漏洞扫描服务

查看更多 →

僵尸主机 告警类型说明 僵尸主机亦称傀儡机，是由攻击者通过木马蠕虫感染的主机，大量僵尸主机可以组成僵尸网络（Botnet）。攻击者通过控制信道向僵尸网络内的大量僵尸主机下达指令，令其发送伪造包或垃圾数据包，使攻击目标瘫痪并“拒绝服务”，这就是常见的DDoS攻击。此外，随着虚拟货币

查看更多 →

主机管理 在Windows环境下ICAgent安装失败并提示SERVICE STOP怎么办？ 在LTS页面升级ICAgent失败怎么办？ 在LTS页面无法查询新产生的日志怎么办？ ICAgent安装完成后反复重启怎么办？ 在LTS页面完成ICAgent安装后显示离线怎么办？ IC

查看更多 →

查看此失陷主机详情页面。 图3 失陷主机列表 失陷主机详情页面包含处置建议、处置记录、失陷类型分析和关联告警事件列表等信息。 您可以单击“导出详情”，导出包含失陷主机详细信息的Word格式文件。 图4 失陷主机详情页面 若租户同时购买智能终端安全服务，并检测到失陷主机存在挖矿行为

查看更多 →

删除主机 功能介绍 根据主机id删除主机。该接口于2024年9月30日后不再维护。 调用方法 请参见如何调用API。 URI DELETE /v2/host-groups/{group_id}/hosts/{host_id} 表1 路径参数 参数 是否必选 参数类型 描述 group_id

查看更多 →

修改主机 功能介绍 根据主机id修改主机信息。该接口于2024年9月30日后不再维护。 调用方法 请参见如何调用API。 URI PUT /v2/host-groups/{group_id}/hosts/{host_id} 表1 路径参数 参数 是否必选 参数类型 描述 group_id

查看更多 →