用场景，满足企业或个人普通业务搬迁上云需求。 更多信息，请参见通用计算型和通用计算增强型。 企业电商 对内存要求高、数据量大并且数据访问量大、要求快速的数据交换和处理的场景。例如广告精准营销、电商、移动APP。 推荐使用内存优化型弹性 云服务器 ，主要提供高内存实例，同时可以配置超高IO的云硬盘和合适的带宽。

查看更多 →

String 资源规格的核数。 cpu String 资源规格CPU内存。 gpu_num Int 资源规格GPU的个数。 gpu_type String 资源规格GPU的类型。 spec_code String 云资源的规格类型。 max_num Int 以选择的最大节点数量。 storage

查看更多 →

资源和成本规划 该解决方案主要部署如下资源，以下费用仅供参考，具体请参考华为云官网价格详情，实际收费以账单为准。 表1 成本预估（仅供参考） 华为云服务 计费说明 每月花费（调用100万次） AI开发平台 ModelArts 区域：华北-北京四 计费模式：按需计费 业务类型：AI全流程开发

查看更多 →

业务可以容忍GPU冷启动耗时，或者业务流量波形对应的冷启动概率低。 功能优势 函数计算为准实时推理工作负载提供以下功能优势： 原生Serverless使用方式 函数计算平台默认提供的按量GPU实例使用方式，会自动管理GPU计算资源。根据业务的请求数量，自动弹性GPU实例，最低0个实例，最大可配置实例数量。

查看更多 →

选择GPU节点驱动版本 使用GPU加速型云 服务器 时，需要安装正确的Nvidia基础设施软件，才可以使用GPU实现计算加速功能。在使用GPU前，您需要根据GPU型号，选择兼容配套软件包并安装。 本文将介绍如何选择GPU节点的驱动版本及配套的CUDA Toolkit。 如何选择GPU节点驱动版本

查看更多 →

GPU裸金属服务器使用EulerOS内核误升级解决方案 问题现象 GP Vnt1裸金属服务器，操作系统为EulerOS 2.9(基于CentOS制作的Linux发行版)，经常遇到服务器重启后，操作系统内核无故升级，导致系统上原安装的nvidia-driver等软件无法使用，只能卸载重新安装。

查看更多 →

采集方式（Windows）：通过调用GPU卡的nvml.dll库获取。 0-100% 云服务器 云服务器 - GPU 1分钟 gpu_usage_gpu (Agent) GPU使用率 该指标用于统计测量对象当前的GPU使用率。 单位：百分比 采集方式（Linux）：通过调用GPU卡的libnvidia-ml

查看更多 →

GPU卡-XGPU设备显存分配率 百分比 每张GPU卡上的GPU虚拟化设备的显存总量占这张GPU卡显存总量的比例 计算公式：显卡上所有XGPU设备能使用的显存上限之和 / 显卡显存总量 GPU卡-XGPU设备算力使用率 百分比 每张GPU卡的GPU虚拟化设备的算力使用率 计算公

查看更多 →

图8 选择系统盘镜像 图9 配置信息填写 单击立即创建后跳转到镜像服务控制台，可查看镜像创建进度。 图10 镜像创建中 图11 镜像创建完成 配置弹性伸缩 打开华为云镜像服务控制台，确认镜像创建成功。 登录华为云弹性伸缩AS控制台，选择该方案创建的弹性伸缩配置，单击右侧复制。在弹

查看更多 →

应用GPU资源调度方式 IEF支持多应用共享的方式使用GPU显卡。 IEF支持单个应用使用多个GPU显卡。 GPU资源调度基于GPU显存容量，调度采用GPU显存预分配方式而非实时GPU显存资源。 当应用需要使用的GPU显存资源小于单个GPU卡显存时，支持以共享方式进行资源调度，对

查看更多 →

GPU实例故障自诊断 GPU实例故障，如果已安装GPU监控的CES Agent，当GPU服务器出现异常时则会产生事件通知，可以及时发现问题避免造成用户损失。如果没有安装CES Agent，只能依赖用户对故障的监控情况，发现故障后及时联系技术支持处理。 GPU实例故障处理流程 GPU实例故障分类列表

查看更多 →

安装nvidia-fabricmanager服务 A100/A800 GPU支持 NvLink & NvSwitch，若您使用多GPU卡的机型，需额外安装与驱动版本对应的nvidia-fabricmanager服务使GPU卡间能够互联，否则可能无法正常使用GPU实例。 本文以驱动版本470.103

查看更多 →

GPU插件检查异常处理 检查项内容 检查到本次升级涉及GPU插件，可能影响新建GPU节点时GPU驱动的安装。 解决方案 由于当前GPU插件的驱动配置由您自行配置，需要您验证两者的兼容性。建议您在测试环境验证安装升级目标版本的GPU插件，并配置当前GPU驱动后，测试创建节点是否正常使用。

查看更多 →

/nvidia-smi 若能正常返回GPU信息，说明设备可用，插件安装成功。 GPU驱动支持列表 当前GPU驱动支持列表仅针对1.2.28及以上版本的GPU插件。 如果您需要安装最新版本的GPU驱动，请将您的GPU插件升级到最新版本。 表1 GPU驱动支持列表 GPU型号 支持集群类型 机型规格

查看更多 →

GPU虚拟化概述 CCE GPU虚拟化采用自研xGPU虚拟化技术，能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。相对于静态分配来说，虚拟化的方案更加灵活，最大程度保证业务稳定的前提下，可以完全由用户自己定义使用的GPU量，提高GPU利用率。

查看更多 →

一键轻松部署，即可完成弹性云服务器及弹性公网IP等资源的快速发放，以及语音克隆应用部署。 约束与限制 该解决方案部署前，需 注册华为账号 并开通华为云，完成实名认证，且账号不能处于欠费或冻结状态。 服务器中存放文件的所有路径不要出现中文及引号。

查看更多 →

GPU A系列裸金属服务器没有任务，GPU被占用问题 问题现象 服务器没有任务，但GPU显示被占用。 图1 显卡运行状态 处理方法 nvidia-smi -pm 1 父主题： FAQ

查看更多 →

如何避免非GPU/NPU负载调度到GPU/NPU节点？ 问题现象 当集群中存在GPU/NPU节点和普通节点混合使用的场景时，普通工作负载也可以调度到GPU/NPU节点上，可能出现GPU/NPU资源未充分利用的情况。 问题原因 由于GPU/NPU节点同样提供CPU、内存资源，在一般

查看更多 →

资源和成本规划 云资源 规格 数量 每月费用（元） 弹性云服务器 1 X86计算 | 通用计算型 | s6.xlarge.2 | 4核 | 8GB; CentOS | CentOS 8.2 64bit; 通用型SSD | 40GB; 4 1329.2 分布式缓存服务Redis版 1

查看更多 →

pci_passthrough:gpu_specs String G1型和G2型云服务器应用的技术，包括GPU虚拟化和GPU直通。 如果该规格的云服务器使用GPU虚拟化技术，且GPU卡的型号为M60-1Q，参数值为“m60_1q:virt:1”。 如果该规格的云服务器使用GPU直通技术，且GPU卡的型号

查看更多 →

对于一些类型的弹性云服务器，如果使用私有镜像进行创建，需要在制作私有镜像时安装特殊驱动。 GPU驱动 如果这个私有镜像用于创建GPU加速型云服务器，需要在镜像中安装合适的GPU驱动来获得相应的GPU加速能力。GPU加速型实例中配备的NVIDIA Tesla GPU支持两种类型的驱动

查看更多 →