文档首页/
AI开发平台ModelArts/
最佳实践/
DeepSeek基于Lite Server&Cluster推理/
DeepSeek模型基于ModelArts Lite Cluster适配NPU的PD分离推理解决方案/
准备、安装部署依赖/
安装KubeInfer
更新时间:2025-09-08 GMT+08:00
安装KubeInfer
- 编辑kubeinfer-crd.yaml文件,将${image_name}替换为kubeInfer插件镜像。
swr.cn-east-4.myhuaweicloud.com/atelier/modelarts-infers-operator:1.5.1.20250808112402
- 执行如下命令部署KubeInfer。
kubectl apply -f /mnt/deepseek/deploy/plugin/kubeinfer-crd.yaml
- 执行成功后,可执行如下命令查看CRD是否注册。
kubectl get crds | grep infer
如下图所示,打印'kubeinfers.infer.modelarts.huaweicloud'和'instances.infer.modelarts.huaweicloud'即为CRD注册成功。图1 查看CRD
父主题: 准备、安装部署依赖