XGPU共享技术是华为云基于内核虚拟GPU开发的共享技术。XGPU服务可以隔离GPU资源，实现多个容器共用一张显卡，从而实现业务的安全隔离，提高GPU硬件资源的利用率并降低使用成本。 XGPU共享技术架构 XGPU通过自研的内核驱动为容器提供虚拟的GPU设备，在保证性能的前提下隔离显存

查看更多 →

py编写指导请见模型推理代码编写说明）。 确认该cuda版本与您安装的mmcv版本是否匹配。 部署时是否需要使用GPU，取决于的模型需要用到CPU还是GPU，以及推理脚本如何编写。 父主题： 服务部署

查看更多 →

如何处理GPU掉卡，执行lspci | grep -i nvidia命令找不到显卡或显卡显示rev ff 问题原因 某种健全性检查没有通过，GPU驱动程序不会使用或信任其内容（某些内容未被使用）。 问题影响 可能影响ECC相关非易失数据的记录，从而导致本该隔离的GPU内存页面继续使用。

查看更多 →

5，这样可以多个Pod共享使用GPU。GPU数量小于1时，不支持跨GPU分配，如0.5 GPU只会分配到一张卡上。 使用nvidia.com/gpu参数指定GPU数量时，requests和limits值需要保持一致。 指定nvidia.com/gpu后，在调度时不会将负载调度到没有GPU的节点。如果

查看更多 →

如何获取谷歌Gmail邮箱授权码？ 登录谷歌Gmail邮箱网页版，在设置中打开POP和IMAP接入（默认是关闭的），保存设置。 登录谷歌账号，在“设置--安全”选项中，设置APP密码，设置完成后使用生成的APP密码在 WeLink 移动端登录Gmail邮箱即可使用。 父主题： 异常处理

查看更多 →

本章节介绍什么是准实时推理场景，以及如何使用GPU按量实例和如何基于GPU按量实例构建使用成本较低的准实时推理服务。 特征 在准实时推理应用场景中，工作负载具有以下一个或多个特征： 调用稀疏 日均调用几次到几万次，日均GPU实际使用时长远低于6~10小时，GPU存在大量闲置。 单次处理耗时长

查看更多 →

#再次确认是否有程序正在使用GPU卡设备 节点安装指定NVIDIA驱动版本。 从NVIDIA官方网站中下载指定的驱动版本，如何选择GPU节点驱动版本请参见选择GPU节点驱动版本。 记录当版本驱动状态。根据CCE AI套件（NVIDIA GPU）插件版本差异，查询驱动的命令如下：

查看更多 →

nvidia-smi: command not found 可能原因 云服务器 驱动异常、没有安装驱动或者驱动被卸载。 处理方法 如果未安装GPU驱动，请重新安装GPU驱动。 操作指导请参考：安装GPU驱动 如果已安装驱动，但是驱动被卸载。 执行history，查看是否执行过卸载操作。

查看更多 →

迁移后应用出图效果相比GPU无法对齐怎么办？ 扩散模型在噪音和随机数上的生成，本身就有一定的随机性，GPU和NPU（Ascend）硬件由于存在一定细小的差别，很难确保完全一致，较难达成生成图片100%匹配，建议通过盲测的方式对效果进行验证。 模型精度有问题怎么办？ 首先考虑通过FP

查看更多 →

GPU 服务器 上配置Lite Server资源软件环境 场景描述 本文旨在指导如何在GPU裸金属服务器上，安装NVIDIA、CUDA驱动等环境配置。由于不同GPU预置镜像中预安装的软件不同，您通过Lite Server算力资源和镜像版本配套关系章节查看已安装的软件。下面为常见的软件

查看更多 →

GPU实例故障自诊断 GPU实例故障，如果已安装GPU监控的CES Agent，当GPU服务器出现异常时则会产生事件通知，可以及时发现问题避免造成用户损失。如果没有安装CES Agent，只能依赖用户对故障的监控情况，发现故障后及时联系技术支持处理。 GPU实例故障处理流程 GPU实例故障分类列表

查看更多 →

如何进行Profile开发？ 物联网平台提供线上和线下两种Profile开发方式：线上开发指导详见线上开发参考；线下开发指导详见线下开发参考。 父主题： 产品模型/Profile（联通用户专用）

查看更多 →

如何安装已开发好的应用 应用安装场景 应用开发编译发布成应用包后，可在开发环境、沙箱环境和运行环境中安装使用。应用包典型安装场景，有如下两种： 应用包的开发者租户，可以在当前租户的运行环境以及沙箱环境安装应用资产包，安装后进行测试或直接部署运行该应用。 其他租户可以在开发环境安装

查看更多 →

如何从零开始开发Operator 开发Operator 制作镜像 制作服务包 父主题： 附录

查看更多 →

部署上线 07 AI Gallery使用指南 AI Gallery是一个AI资产共享平台，为高校科研机构、AI应用开发商、解决方案集成商、企业级/个人开发者等群体，提供安全、开放的共享环境。 AI Gallery简介 AI Gallery简介 使用指导 发布和管理AI Gallery模型

查看更多 →

，并预装主流AI开发插件以及自研的加速插件，以云原生方式直接向用户提供AI Native的资源、任务等能力，用户可以直接操作资源池中的节点和k8s集群。 ModelArts Lite Cluster主要支持以下功能： 同一昇腾算力资源池中，支持存在不同订购周期的服务器 同一昇腾算

查看更多 →

AI平台开发与实施服务可以提供哪些服务？ AI平台开发支持服务。 AI平台场景化建模开发服务。 AI平台场景化建模调优服务。 父主题： 关于服务咨询

查看更多 →

在ModelArts Standard上运行GPU训练任务的场景介绍 不同AI模型训练所需要的数据量和算力不同，在训练时选择合适的存储及训练方案可提升模型训练效率与资源性价比。ModelArts Standard支持单机单卡、单机多卡和多机多卡的训练场景，满足不同AI模型训练的要求。 ModelArts

查看更多 →

到GPU。 处理方法 根据报错提示，请您排查代码，是否已添加以下配置，设置该程序可见的GPU： os.environ['CUDA_VISIBLE_DEVICES'] = '0,1,2,3,4,5,6,7' 其中，0为服务器的GPU编号，可以为0，1，2，3等，表明对程序可见的GP

查看更多 →

选择GPU节点驱动版本 使用GPU加速型云服务器时，需要安装正确的Nvidia基础设施软件，才可以使用GPU实现计算加速功能。在使用GPU前，您需要根据GPU型号，选择兼容配套软件包并安装。 本文将介绍如何选择GPU节点的驱动版本及配套的CUDA Toolkit。 如何选择GPU节点驱动版本

查看更多 →

准备GPU虚拟化资源 CCE GPU虚拟化采用自研xGPU虚拟化技术，能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。本文介绍如何在GPU节点上实现GPU的调度和隔离能力。 前提条件 配置 支持版本 集群版本 v1.23.8-r0、v1.25

查看更多 →