/nvidia-smi 若能正常返回GPU信息，说明设备可用，插件安装成功。 GPU驱动支持列表 当前GPU驱动支持列表仅针对1.2.28及以上版本的GPU插件。 如果您需要安装最新版本的GPU驱动，请将您的GPU插件升级到最新版本。 表1 GPU驱动支持列表 GPU型号 支持集群类型 机型规格

查看更多 →

开发AI应用 准备模型 AI应用开发的前序步骤是模型训练，因此开始进行AI应用开发时，您已经有训练优化好的可使用的模型了。当前ModelBox 镜像支持的模型类型有TensorRT和PyTorch模型，具体的版本号在您创建开发环境选择镜像时镜像名称中可以看到。 如果您的模型不是T

查看更多 →

CCE AI套件（NVIDIA GPU）版本发布记录 表1 CCE AI套件（NVIDIA GPU）版本记录 插件版本 支持的集群版本 更新特性 2.6.4 v1.28 v1.29 更新GPU卡逻辑隔离逻辑 2.6.1 v1.28 v1.29 升级GPU插件基础镜像 2.5.6 v1

查看更多 →

AI应用开发介绍 模型封装是将模型封装成一个AI应用，也称之为AI应用开发。AI应用开发是指将训练好的一个或多个模型编排开发成推理应用以满足具体业务场景下的推理需求，比如视频质量检测、交通拥堵诊断等。AI应用开发在整个AI开发流程的位置大致如图1所示。 图1 AI开发流程 通常为

查看更多 →

GPU调度 GPU节点驱动版本 使用Kubernetes默认GPU调度 GPU虚拟化 监控GPU资源指标 基于GPU监控指标的弹性伸缩实践 GPU故障处理 父主题： 调度

查看更多 →

AI应用开发和调试 ModelBox基本概念 开发AI应用 调试AI应用

查看更多 →

AI开发基本流程介绍 什么是AI AI（人工智能）是通过机器来模拟人类认识能力的一种科技能力。AI最核心的能力就是根据给定的输入做出判断或预测。 AI开发的目的是什么 AI开发的目的是将隐藏在一大批数据背后的信息集中处理并进行提炼，从而总结得到研究对象的内在规律。 对数据进行分析

查看更多 →

AI应用开发指导 什么是AI应用 如何开发预测类AI应用 如何开发推荐类AI应用 如何开发工单类AI应用 如何开发目标检测类AI应用 使用优选AI服务 迁移安装AI应用 父主题： 白名单特性

查看更多 →

GPU负载 使用Tensorflow训练神经网络 使用Nvidia-smi工具

查看更多 →

AI开发基本概念 机器学习常见的分类有3种： 监督学习：利用一组已知类别的样本调整分类器的参数，使其达到所要求性能的过程，也称为监督训练或有教师学习。常见的有回归和分类。 非监督学习：在未加标签的数据中，试图找到隐藏的结构。常见的有聚类。 强化学习：智能系统从环境到行为映射的学习，以使奖励信号（强化信号）函数值最大。

查看更多 →

GPU加速型实例卸载GPU驱动 操作场景 当GPU加速型 云服务器 需手动卸载GPU驱动时，可参考本文档进行操作。 GPU驱动卸载命令与GPU驱动的安装方式和操作系统类型相关，例如： Windows操作系统卸载驱动 Linux操作系统卸载驱动 Windows操作系统卸载驱动 以Windows

查看更多 →

AI平台开发与实施服务 基于华为云AI平台，结合业务场景，提供AI模型场景化建模、调优、加速、性能提升等服务。 工作说明书 常见问题 计费说明 父主题： 上云与实施

查看更多 →

GPU驱动概述 GPU驱动概述 在使用GPU加速型实例前，请确保实例已安装GPU驱动以获得相应的GPU加速能力。 GPU加速型实例支持两种类型的驱动：GRID驱动和Tesla驱动。 当前已支持使用自动化脚本安装GPU驱动，建议优先使用自动安装方式，脚本获取以及安装指导请参考（推荐

查看更多 →

GPU函数管理 Serverless GPU使用介绍 部署方式 函数模式

查看更多 →

GPU故障处理 前提条件 如需将GPU事件同步上报至AOM，集群中需安装云原生日志采集插件，您可前往AOM服务查看GPU插件隔离事件。 GPU插件隔离事件 当GPU显卡出现异常时，系统会将出现问题的GPU设备进行隔离，详细事件如表1所示。 表1 GPU插件隔离事件 事件原因 详细信息

查看更多 →

计算加速型P2vs 计算加速型P2s（主售） 计算加速型P2v 计算加速型P1 推理加速型Pi2（主售） 推理加速型Pi1 相关操作链接： 适用于GPU加速实例的镜像列表 GPU加速型实例安装GRID驱动 GPU加速型实例安装Tesla驱动及CUDA工具包 表1 GPU加速实例总览 类别 实例

查看更多 →

GPU相关问题 日志提示"No CUDA-capable device is detected" 日志提示“RuntimeError: connect() timed out” 日志提示“cuda runtime error (10) : invalid device ordinal

查看更多 →

GPU计算型 GPU计算单元包含的计算资源主要适用于政企用户部署GPU密集型业务到CloudPond上使用的场景，对应华为云E CS 的实例包含Pi系列，用户可根据机型规格情况选择对应的计算资源商品。具体规格请参考表1。 表1 GPU计算单元 名称 算力配置 描述 GPU计算单元-汇聚型-2Pi2

查看更多 →

参考部署为在线服务，将导入的模型部署为在线服务。 在“计算节点规格”中，选择带有“免费规格”标识的规格，部署在线服务。 在服务管理列表中，使用免费规格创建的服务，名称右侧带“免费”标识，等待服务部署完成，当状态变为“运行中”时，表示服务已部署完成。 您可以单击服务名称进入服务详情页面，

查看更多 →

如下图所示，状态为“已发布”，表示场景式AI服务发布成功。 图1 已发布 在服务编排中使用AI服务 推荐模型发布后，在图1中单击“使用”，可使用该推荐模型进行推荐。 系统支持使用服务编排或者脚本来调用推荐服务。 选择使用该推荐服务的应用，保持默认所选页签“在Flow中使用”，单击“开发”。 图2 在服务编排中使用

查看更多 →

如下图所示，状态为“已发布”，表示场景式AI服务发布成功。 图3 已发布 在服务编排中使用AI服务 预测模型发布后，在图3中单击“使用”，可使用该预测模型进行预测。 系统支持使用服务编排或者脚本来调用预测服务。 选择使用该预测服务的应用，保持默认所选页签“在Flow中使用”，单击“开发”。 图4 在服务编排中使用

查看更多 →