NPU芯级独占调度

vim npu-app.yaml

文件内容如下：

kind: Deployment
apiVersion: apps/v1
metadata:
  name: npu-test
  namespace: default
spec:
  replicas: 1
  selector:
    matchLabels:
      app: npu-test
  template:
    metadata:
      labels:
        app: npu-test
    spec:
      nodeSelector:      # 可选参数，指定该参数后，可为当前负载绑定特定类型的NPU资源，使Pod调度至具备相应资源的节点
        accelerator/huawei-npu: ascend-310
      containers:
        - name: container-0
          image: nginx:perl
          env:
          - name: LD_LIBRARY_PATH  # 配置环境变量，用于指定动态链接库的搜索路径，确保在运行与NPU相关的应用时，系统能够正确加载所需的动态库文件。
            value: "/usr/local/HiAI/driver/lib64:/usr/local/Ascend/driver/lib64/common:/usr/local/Ascend/driver/lib64/driver:/usr/local/Ascend/driver/lib64"
          resources:
            limits:
              cpu: 250m
              huawei.com/ascend-310: '1' 
              memory: 512Mi
            requests:
              cpu: 250m
              huawei.com/ascend-310: '1'
              memory: 512Mi        
      imagePullSecrets:
      - name: default-secret

• nodeSelector：可选参数，表示节点选择器。指定该参数后，可为当前负载绑定特定类型的NPU资源，使Pod调度至具备相应资源的节点。若未指定，系统将自动为Pod分配可用的NPU节点。

  您可以通过以下命令查询节点的标签：

  kubectl get node -L accelerator/huawei-npu

  回显结果如下，加粗部分即为对应标签值：

  NAME           STATUS   ROLES    AGE     VERSION                                    HUAWEI-NPU
  10.100.2.59    Ready    <none>   2m18s   v1.19.10-r0-CCE21.11.1.B006-21.11.1.B006   ascend-310

• 容器支持选择以下类型NPU芯片。如YAML文件所示，您可以在resources.limits中指定对应的芯片类型和芯片个数，芯片个数必须为正整数。
  • 昇腾Snt3：由huawei.com/ascend-310字段表示。
  • 昇腾Snt9：由huawei.com/ascend-1980字段表示，使用该类型芯片时需提前安装Volcano插件，具体请参见Volcano调度器。
    

    指定NPU芯片数量时，requests和limits值需要保持一致。

kubectl apply -f npu-app.yaml

回显结果如下，则说明工作负载已创建。

deployment.apps/npu-test created

kubectl get pod -n default

回显结果如下：

NAME                      READY   STATUS    RESTARTS   AGE
npu-test-6bdb4d7cb-pmtc2   1/1     Running   0          21s

kubectl -n default exec -it npu-test-6bdb4d7cb-pmtc2 -c container-0 -- /bin/bash

npu-smi info

由回显结果可知，该容器已挂载Chip ID为13的NPU芯片。