文档首页/ AI开发平台ModelArts/ 最佳实践/ DeepSeek&Qwen3基于Lite Server&Cluster推理/ DeepSeek&Qwen3模型基于ModelArts Lite Server适配NPU的PD分离推理解决方案/ 准备、安装部署依赖/ KubeInfer的安装与升级/ 安装KubeInfer
更新时间：2025-10-14 GMT+08:00
查看PDF
分享

安装KubeInfer

  1. 执行以下命令进入插件安装目录。 

    cd /mnt/deepseek/deploy/plugin

  2. 编辑modelarts-infers-operator/values.yaml文件。 

    vi modelarts-infers-operator/values.yaml

  3. 将${image_tag}替换为表2中KubeInfer插件镜像标签。 

    image:
  repository: "swr.cn-east-4.myhuaweicloud.com"
  baseName: "atelier"
  name: "modelarts-infers-operator"
  tag: "${image_tag}"
  pullPolicy: "IfNotPresent"
...

  4. 执行如下命令部署 KubeInfer。(需要先安装Helm） 

    helm install kubeinfer ./modelarts-infers-operator/ -f ./modelarts-infers-operator/values.yaml -n default

  5. （可选）如果通过其他方式安装过KubeInfer，需要先删除原有KubeInfer。 

    kubectl delete deploy modelarts-infers-operator -n default
kubectl delete serviceaccount modelarts-infers-operator-account -n default
kubectl delete clusterrole modelarts-infers-operator-role
kubectl delete clusterrole modelarts-infers-sidecar-role
kubectl delete clusterrolebinding modelarts-infers-operator-rb

  6. 执行下面的命令确认KubeInfer实例是否部署成功。 

    kubectl get po | grep modelarts-infers-operator

相关文档