KubeInfer（ModelArts Infers Operator）

插件简介

在AI应用开发与部署过程中，用户经常需要在创建专属资源池时集成特定的插件以支持模型推理等关键功能。然而，传统的插件安装方式往往需要手动配置，不仅耗时费力，还容易出错，影响AI应用的快速上线。为了提升用户体验，华为云ModelArts平台在创建专属资源池，选择新版推理作业时，支持KubeInfer(ModelArts Infers Operator)插件的默认安装。

KubeInfer插件是一款为复杂推理服务提供高级部署和管理能力的插件。它将需要多个Pod协同工作的服务抽象为统一的“实例”，并实现实例层级的整体调度、滚动升级与故障恢复，以简化大模型等场景下的部署和运维工作。

用户在创建资源池时，可以选择安装KubeInfer插件，实现推理能力的开箱即用，简化配置流程，提高部署效率。此外，ModelArts插件中心还提供了插件的安装、卸载、升级等全生命周期管理功能，确保插件管理的便捷性和安全性，降低运维成本与风险。

KubeInfer插件当前不支持回退旧版本，请谨慎操作。

约束限制

1. 升级过程中将短暂影响业务创建功能 (预计恢复极快)，请尽量避开业务高峰期操作。

2. KubeInfer插件自7.5.2版本起依赖LeaderWorkerSet插件，在安装或升级7.5.2及以上版本前，请先在CCE集群的插件中心搜索并安装LeaderWorkerSet插件。

安装插件

创建资源池开启新版推理任务时，自动安装该插件。

组件说明

版本记录