huawei-npu插件

插件简介

huawei-npu插件是支持容器里使用huawei NPU设备的管理插件。

安装本插件后，可支持使用NPU的节点，实现快速高效地处理推理和图像识别等工作。

前置条件

• 安装huawei-npu的节点需要添加标签“accelerator/huawei-npu”，标签值可为空。
• 使用npu插件在Ascend Snt9设备上运行，需先安装volcano插件。

约束与限制

• 该功能支持v1.28及以上本地集群版本。
• 目前仅支持arm架构，HCE2.0操作系统。
• 目前支持的NPU资源型号为Ascend Snt9。
• Ascend Snt9设备调度必须使用volcano，且只支持单个容器实例下1、2、4、8卡调度。

安装插件

1. 登录UCS控制台，选择容器舰队，单击集群名称进入集群，在左侧导航栏中选择“插件中心”，在右侧找到huawei-npu插件，单击“安装”。
2. 设置NPU参数，该插件推荐使用默认参数。插件提供的默认NPU参数可满足大多数的使用场景，您无需修改。
3. 完成以上配置后，单击“安装”。
   图1 安装huawei-npu插件
   

• 安装huawei-npu插件，需要确认已安装volcano插件。

• 驱动安装成功后需要重启节点才能生效，驱动安装成功确认方式请参见如何确认节点NPU驱动已安装完成。
• 插件卸载不会自动删除已安装的NPU驱动，用户需自行卸载删除相关资源。

升级插件

1. 登录UCS控制台，选择容器舰队，单击集群名称进入集群，在左侧导航栏中选择“插件中心”。
2. 在“已安装插件”内找到huawei-npu插件，如果版本标签旁边显示“存在新版请升级”提示，表示该插件可升级。
3. 在升级插件基本信息配置页面配置参数，并选择插件待升级的版本。
4. 单击“升级”，即可升级huawei-npu插件。

卸载插件

1. 登录UCS控制台，选择容器舰队，单击集群名称进入集群，在左侧导航栏中选择“插件中心”。
2. 在“已安装插件”内找到huawei-npu插件，单击插件“卸载”按钮。
3. 在弹出的“卸载插件”按钮中选择“是”，即可卸载该插件。

昇腾芯片驱动安装

请确保昇腾芯片已插入到节点上，确认设备型号，并从昇腾官方社区下载设备驱动，以及参考驱动安装指导进行安装：

安装完成后，执行以下命令，可查看节点的/dev目录下所有的芯片设备。

ls -l /dev/davinci*

执行如下命令，查看驱动加载是否成功。

npu-smi info

若出现如下回显信息，说明加载成功，具体回显信息请以实际情况为准。否则，说明加载驱动失败。请联系华为技术支持处理。

如何确认节点NPU驱动已安装完成

NPU驱动安装成功后需要重启节点才能生效，且重启节点前需要确认驱动已经安装完成，否则驱动将无法生效，NPU资源不可用。驱动安装完成确认方式如下：

UCS控制台，选择容器舰队，单击集群名称进入集群，在左侧导航栏中选择“插件中心”，单击插件名称查看插件“实例列表”，实例状态为“运行中”。

若在NPU驱动安装完成前就重启了节点，可能导致驱动安装失败，节点重启后集群“节点管理”页面对应的节点会显示“昇腾驱动未就绪”。此时需要先卸载该节点上的NPU驱动，再重启节点，才能重新安装NPU驱动，按上述步骤确认驱动安装完成后再重启节点。