# KubeInfer（ModelArts Infers Operator）
#### 插件简介
在AI应用开发与部署过程中，用户经常需要在创建专属资源池时集成特定的插件以支持模型推理等关键功能。然而，传统的插件安装方式往往需要手动配置，不仅耗时费力，还容易出错，影响AI应用的快速上线。为了提升用户体验，华为云ModelArts平台在创建专属资源池，选择新版推理作业时，支持KubeInfer(ModelArts Infers Operator)插件的默认安装。
KubeInfer插件是一款为复杂推理服务提供高级部署和管理能力的插件。它将需要多个Pod协同工作的服务抽象为统一的"实例"，并实现实例层级的整体调度、滚动升级与故障恢复，以简化大模型等场景下的部署和运维工作。
用户在创建资源池时，可以选择安装KubeInfer插件，实现推理能力的开箱即用，简化配置流程，提高部署效率。此外，ModelArts插件中心还提供了插件的安装、卸载、升级等全生命周期管理功能，确保插件管理的便捷性和安全性，降低运维成本与风险。
![](https://support.huaweicloud.com/resmgmt-modelarts/public_sys-resources/warning_3.0-zh-cn.png)
KubeInfer插件当前不支持回退旧版本，请谨慎操作。
单元副本及其重建策略功能需要 7.5.2 及以上版本才能体验。如未找到该版本，请联系技术支持协助升级。
#### 约束限制
升级过程中将短暂影响业务创建功能 (预计恢复极快)，请尽量避开业务高峰期操作。
#### 安装插件
创建资源池开启新版推理任务时，自动安装该插件。
#### 参数说明
插件安装时根据集群节点数自动选择规格，所有规格均自动开启强反亲和：
| 规格     | 副本数     | CPU（申请/限制）   | 内存（申请/限制）        | 说明                         |
|:---|:---|:---|:---|:---|
| 小规格  | 2    | 500m/2000m    | 500Mi/2000Mi    | 适合小规模集群（节点数 ≤ 50）。       |
| 中规格 | 2       | 1500m/3000m | 2500Mi/4000Mi | 适合中规模集群（50 \< 节点数 \<= 200） |
| 大规格  | 2    | 5500m/7000m | 12500Mi/15000Mi    | 适合大规模集群（节点数 \> 200）。      |
| 自定义规格 | 用户自定义 | 用户自定义        | 用户自定义            | -                         |
   
#### 组件说明
| 容器组件 | 说明                                                                                      | 资源类型      |
|:---|:---|:---|
| modelarts-infers-operator                                       | modelarts-infers-operator组件支持将多个Pod抽象为统一的推理"实例"，并提供实例级别的整体调度、滚动升级、故障恢复及弹性伸缩等全生命周期管理能力。 | Deployment |
   
#### 版本记录
| 插件版本 | 更新特性                  |
|:---|:---|
| 7.6.3                              | 支持绑核加速功能，支持高性能调度策略和单副本资源实例调度约束功能。                |
| 7.5.2                              | 支持单元副本和单元副本重建策略。单元配置相关内容请参见《推理部署》的"部署同步在线服务"章节。 |
| 1.6.2                            | 支持在"专属资源池" 上使用KubeInfer插件。                       |