# 在ModelArts上运行多机多卡训练作业
#### 操作流程
1. 准备工作：
   1. [购买服务资源](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_2003.html#ZH-CN_TOPIC_0000001967677176__section179151088543)（VPC/SFS/OBS/SWR/ECS）
   
   2. [配置权限](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_2003.html#ZH-CN_TOPIC_0000001967677176__section135211413125013)
   
   3. [创建专属资源池](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_2003.html#ZH-CN_TOPIC_0000001967677176__section178314282547)（打通VPC）
   
   4. [ECS服务器挂载SFS Turbo存储](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_2003.html#ZH-CN_TOPIC_0000001967677176__section3463195918541)
   
   5. [在ECS中设置ModelArts用户可读权限](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_2003.html#ZH-CN_TOPIC_0000001967677176__section2445172895518)
   
   6. [安装和配置OBS命令行工具](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_2003.html#ZH-CN_TOPIC_0000001967677176__section49511735617)
   
   7. [（可选）工作空间配置](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_2003.html#ZH-CN_TOPIC_0000001967677176__section9791730155619)
    
2. 模型训练：
   1. [线下容器镜像构建及调试]
   
   2. [上传镜像]
   
   3. [上传数据至OBS（首次使用时需要）]
   
   4. [上传算法至SFS]
   
   5. [使用Notebook进行代码调试]
   
   6. [创建多机多卡训练作业]
    
 
 #### 本地构建镜像及调试
本节通过打包conda env来构建环境，也可以通过pip install、conda install等方式安装conda环境依赖。
![](https://support.huaweicloud.com/bestpractice-modelarts/public_sys-resources/note_3.0-zh-cn.png)
- 容器镜像的大小建议小于15G，详细的自定义镜像规范要求请参见[训练作业自定义镜像规范](https://support.huaweicloud.com/docker-modelarts/develop-modelarts-10079.html)。
- 建议通过开源的官方镜像来构建，例如PyTorch的官方镜像。
- 建议容器分层构建，单层容量不要超过1G、文件数不大于10万个。分层时，先构建不常变化的层，例如：先OS，再cuda驱动，再Python，再pytorch，再其他依赖包。
- 如果训练数据和代码经常变动，则不建议把数据、代码放到容器镜像里，避免频繁地构建容器镜像。
- 容器已经能满足隔离需求，不建议在容器内再创建多个conda env。
 
1. 导出conda环境。
   1. 启动线下的容器镜像：
      ```
      # run on terminal
      docker run -ti ${your_image:tag}
      ```
      
   
   2. 在容器中输入如下命令，得到pytorch.tar.gz：
      ```
      # run on container
      # 基于想要迁移的base环境创建一个名为pytorch的conda环境
      conda create --name pytorch --clone base
      pip install conda-pack
      #将pytorch env打包生成pytorch.tar.gz
      conda pack -n pytorch -o pytorch.tar.gz
      ```
      
   
   3. 将打包好的压缩包传到本地：
      ```
      # run on terminal
      docker cp ${your_container_id}:/xxx/xxx/pytorch.tar.gz .
      ```
      
   
   4. 将pytorch.tar.gz上传到OBS并[设置公共读](https://support.huaweicloud.com/perms-cfg-obs/obs_40_0033.html)，并在构建时使用**wget**命令获取、解压、清理。
    
2. 构建新镜像。 基础镜像一般选用"ubuntu 18.04"的官方镜像，或者nvidia官方提供的带cuda驱动的镜像。相关镜像直接到dockerhub官网查找即可。
   构建流程：安装所需的apt包、驱动，配置ma-user用户、导入conda环境、配置Notebook依赖。
   ![](https://support.huaweicloud.com/bestpractice-modelarts/public_sys-resources/note_3.0-zh-cn.png)
   - 推荐使用Dockerfile的方式构建镜像。这样既满足dockerfile可追溯及构建归档的需求，也保证镜像内容无冗余和残留。
   
   - 每层构建的时候都尽量把tar包等中间态文件删除，保证最终镜像更小，清理缓存的方法可参考：[conda clean](https://docs.conda.io/projects/conda/en/latest/commands/clean.html)。
     
3. 构建参考样例
   Dockerfile样例：
   ```
   FROM nvidia/cuda:11.3.1-cudnn8-devel-ubuntu18.04
   USER root
   # section1: add user ma-user whose uid is 1000 and user group ma-group whose gid is 100. If there already exists 1000:100 but not ma-user:ma-group, below code will remove it
   RUN default_user=$(getent passwd 1000 | awk -F ':' '{print $1}') || echo "uid: 1000 does not exist" && \
       default_group=$(getent group 100 | awk -F ':' '{print $1}') || echo "gid: 100 does not exist" && \
       if [ ! -z ${default_group} ] && [ ${default_group} != "ma-group" ]; then \
           groupdel -f ${default_group}; \
           groupadd -g 100 ma-group; \
       fi && \
       if [ -z ${default_group} ]; then \
           groupadd -g 100 ma-group; \
       fi && \
       if [ ! -z ${default_user} ] && [ ${default_user} != "ma-user" ]; then \
           userdel -r ${default_user}; \
           useradd -d /home/ma-user -m -u 1000 -g 100 -s /bin/bash ma-user; \
           chmod -R 750 /home/ma-user; \
       fi && \
       if [ -z ${default_user} ]; then \
           useradd -d /home/ma-user -m -u 1000 -g 100 -s /bin/bash ma-user; \
           chmod -R 750 /home/ma-user; \
       fi && \
       # set bash as default
       rm /bin/sh && ln -s /bin/bash /bin/sh
   # section2: config apt source and install tools needed.
   RUN sed -i "s@http://.*archive.ubuntu.com@http://repo.huaweicloud.com@g" /etc/apt/sources.list && \
       sed -i "s@http://.*security.ubuntu.com@http://repo.huaweicloud.com@g" /etc/apt/sources.list && \
       apt-get update && \
       apt-get install -y ca-certificates curl ffmpeg git libgl1-mesa-glx libglib2.0-0 libibverbs-dev libjpeg-dev libpng-dev libsm6 libxext6 libxrender-dev ninja-build screen sudo vim wget zip && \
       apt-get clean  && \
       rm -rf /var/lib/apt/lists/*
   USER ma-user
   # section3: install miniconda and rebuild conda env
   RUN mkdir -p /home/ma-user/work/ && cd /home/ma-user/work/ && \
       wget https://repo.anaconda.com/miniconda/Miniconda3-py37_4.12.0-Linux-x86_64.sh && \
       chmod 777 Miniconda3-py37_4.12.0-Linux-x86_64.sh && \
       bash Miniconda3-py37_4.12.0-Linux-x86_64.sh -bfp /home/ma-user/anaconda3 && \
       wget https://${bucketname}.obs.cn-north-4.myhuaweicloud.com/${folder_name}/pytorch.tar.gz && \
       mkdir -p /home/ma-user/anaconda3/envs/pytorch && \
       tar -xzf pytorch.tar.gz -C /home/ma-user/anaconda3/envs/pytorch && \
       source /home/ma-user/anaconda3/envs/pytorch/bin/activate && conda-unpack && \
       /home/ma-user/anaconda3/bin/conda init bash && \
       rm -rf /home/ma-user/work/*
   ENV PATH=/home/ma-user/anaconda3/envs/pytorch/bin:$PATH
   # section4: settings of Jupyter Notebook for pytorch env
   RUN source /home/ma-user/anaconda3/envs/pytorch/bin/activate && \
       pip install ipykernel==6.7.0 --trusted-host https://repo.huaweicloud.com -i https://repo.huaweicloud.com/repository/pypi/simple && \
       ipython kernel install --user --env PATH /home/ma-user/anaconda3/envs/pytorch/bin:$PATH --name=pytorch && \
       rm -rf /home/ma-user/.local/share/jupyter/kernels/pytorch/logo-* && \
       rm -rf ~/.cache/pip/* && \
       echo 'export PATH=$PATH:/home/ma-user/.local/bin' >> /home/ma-user/.bashrc && \
       echo 'export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/nvidia/lib64' >> /home/ma-user/.bashrc && \
       echo 'conda activate pytorch' >> /home/ma-user/.bashrc
   ENV DEFAULT_CONDA_ENV_NAME=pytorch
   ```
   ![](https://support.huaweicloud.com/bestpractice-modelarts/public_sys-resources/note_3.0-zh-cn.png)
   Dockerfile中的"https://${bucket_name}.obs.cn-north-4.myhuaweicloud.com/${folder_name}/pytorch.tar.gz"，需要替换为[1]中"pytorch.tar.gz"在OBS上的路径（需将文件设置为公共读）。
   进入Dockerfile目录，通过Dockerfile构建镜像命令：
   ```
   # cd 到Dockerfile所在目录下，输入构建命令
   # docker build -t ${image_name}:${image_version} .
   # 例如
   docker build -t pytorch-1.13-cuda11.3-cudnn8-ubuntu18.04:v1 .
   ```
   
4. 调试镜像
   ![](https://support.huaweicloud.com/bestpractice-modelarts/public_sys-resources/note_3.0-zh-cn.png)
   建议把调试过程中的修改点通过Dockerfile固化到容器构建正式流程，并重新测试。
   1. 确认对应的脚本、代码、流程在Linux服务器上运行正常。 如果在Linux服务器上运行就有问题，那么先调通以后再做容器镜像。
      
   
   2. 确认打入镜像的文件是否在正确的位置、是否有正确的权限。 训练场景主要查看自研的依赖包是否正常，查看pip list是否包含所需的包，查看容器直接调用的python是否是自己所需要的那个（如果容器镜像装了多个python，需要设置python路径的环境变量）。
      
   
   3. 测试训练启动脚本。
      1. 优先使用手工进行数据复制的工作并验证 一般在镜像里不包含训练所用的数据和代码，所以在启动镜像以后需要手工把需要的文件复制进去。建议数据、代码和中间数据都放到"/cache"目录，防止正式运行时磁盘占满。建议Linux服务器申请的时候，有足够大的内存（8G以上）以及足够大的硬盘（100G以上）。
         docker和linux的文件交互命令如下：
         ```
         docker cp data/ 39c9ceedb1f6:/cache/
         ```
         数据准备完成后，启动训练的脚本，查看训练是否能够正常拉起。一般来说，启动脚本为：
         ```
         cd /cache/code/ 
         python start_train.py
         ```
         如果训练流程不符合预期，可以在容器实例中查看日志、错误等，并进行代码、环境变量的修正。
         
      
      2. 预制脚本测试整体流程 一般使用run.sh封装训练外的文件复制工作（数据、代码：OBS--\>容器，输出结果：容器--\>OBS），run.sh的构建方法参考[基于ModelArts平台运行GPU训练作业](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_0001.html)。
         如果预置脚本调用结果不符合预期，可以在容器实例中进行修改和迭代。
         
      
      3. 针对专属池场景 由于专属池支持SFS挂载，因此代码、数据的导入会更简单，甚至可以不用再关注OBS的相关操作。
         可以直接把SFS的目录挂载到调试节点的"/mnt/sfs_turbo"目录，或者保证对应目录的内容和SFS盘匹配。
         调试时建议使用接近的方式，即：启动容器实例时使用"-v"参数来指定挂载某个宿主机目录到容器环境。
         ```
         docker run -ti -d -v /mnt/sfs_turbo:/sfs my_deeplearning_image:v1
         ```
         上述命令表示把宿主机的"/mnt/sfs_turbo"目录挂载到容器的"/sfs"目录，在宿主机和容器对应目录的所有改动都是实时同步的。
         
       
   
   4. 分析错误时：训练镜像先看日志，推理镜像先看API的返回。 可以通过命令查看容器输出到stdout的所有日志：
      ```
      docker logs -f 39c9ceedb1f6
      ```
      一般在做推理镜像时，部分日志是直接存储在容器内部的，所以需要进入容器看日志。注意：重点对应日志中是否有ERROR（包括，容器启动时、API执行时）。
      
   
   5. 牵扯部分文件用户组不一致的情况，可以在宿主机用root权限执行命令进行修改
      ```
      docker exec -u root:root 39c9ceedb1f6 bash -c "chown -R ma-user:ma-user /cache"
      ```
      
   
   6. 针对调试中遇到的错误，可以直接在容器实例里修改，修改结果可以通过commit命令持久化。
    
 
 #### 上传镜像
客户端上传镜像，是指在安装了容器引擎客户端的机器上使用docker命令将镜像上传到容器镜像服务的镜像仓库。
如果容器引擎客户端机器为云上的ECS或CCE节点，根据机器所在区域有两种网络链路可以选择：
- 如果机器与容器镜像仓库在同一区域，则上传镜像走内网链路。
- 如果机器与容器镜像仓库不在同一区域，则上传镜像走公网链路，机器需要绑定弹性公网IP。
![](https://support.huaweicloud.com/bestpractice-modelarts/public_sys-resources/note_3.0-zh-cn.png)
- 使用客户端上传镜像，镜像的每个layer大小不能大于10G。
- 上传镜像的容器引擎客户端版本必须为1.11.2及以上。
 
1. 连接容器镜像服务。
   1. 登录[容器镜像服务控制台](https://console.huaweicloud.com/swr/)。
   
   2. 单击右上角"创建组织"，输入组织名称完成组织创建。请自定义组织名称，本示例使用"deep-learning"，下面的命令中涉及到组织名称"deep-learning"也请替换为自定义的值。
   
   3. 选择左侧导航栏的"总览"，单击页面右上角的"登录指令"，在弹出的页面中单击![](https://support.huaweicloud.com/bestpractice-modelarts/figure/zh-cn_image_0000001967677764.png)复制登录指令。
      ![](https://support.huaweicloud.com/bestpractice-modelarts/public_sys-resources/note_3.0-zh-cn.png)
      - 此处生成的登录指令有效期为24小时，如果需要长期有效的登录指令，请参见[获取长期有效登录指令](https://support.huaweicloud.com/usermanual-swr/swr_01_1000.html)。获取了长期有效的登录指令后，在有效期内的临时登录指令仍然可以使用。
      
      - 登录指令末尾的域名为镜像仓库地址，请记录该地址，后面会使用到。
        
   
   4. 在安装容器引擎的机器中执行上一步复制的登录指令。 登录成功会显示"Login Succeeded"。
      
    
2. 在安装容器引擎的机器上执行如下命令，为镜像打标签。 **docker tag** \[镜像名称1:版本名称1\] \[镜像仓库地址\]/\[组织名称\]/\[镜像名称2:版本名称2\]
   - \[镜像名称1:版本名称1\]：${image_name}:${image_version}请替换为您所要上传的实际镜像的名称和版本名称。
   
   - \[镜像仓库地址\]：可在SWR控制台上查询，即[1.c]中登录指令末尾的域名。
   
   - \[组织名称\]：/${organization_name}请替换为您创建的组织。
   
   - \[镜像名称2:版本名称2\]：${image_name}:${image_version}请替换为您期待的镜像名称和镜像版本。
   
   
   示例：
   ```
   docker tag ${image_name}:${image_version} swr.cn-north-4.myhuaweicloud.com/${organization_name}/${image_name}:${image_version}
   ```
   
3. 上传镜像至镜像仓库。 **docker push** \[镜像仓库地址\]/\[组织名称\]/\[镜像名称2:版本名称2\]
   示例：
   ```
   docker push swr.cn-north-4.myhuaweicloud.com/${organization_name}/${image_name}:${image_version}
   ```
   上传镜像完成后，返回容器镜像服务控制台，在"我的镜像"页面，执行刷新操作后可查看到对应的镜像信息。
   
 
 #### 上传数据至OBS
- 已经在OBS上创建好普通OBS桶，请参见[创建普通OBS桶](https://support.huaweicloud.com/usermanual-obs/zh-cn_topic_0045829088.html)。
- 已经安装obsutil，请参考[安装和配置OBS命令行工具](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_2003.html#ZH-CN_TOPIC_0000001967677176__section49511735617)。
- OBS和训练容器间的数据传输原理可以参考[基于ModelArts平台运行GPU训练作业](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_0001.html)。
1. 登录Imagenet数据集下载官网地址，下载Imagenet21k数据集：<https://image-net.org/>
2. 准备格式转换后的annotation文件：ILSVRC2021winner21k_whole_map_train.txt和ILSVRC2021winner21k_whole_map_val.txt。
3. 将上述3个文件数据上传至OBS桶中的imagenet21k_whole文件夹中。文件上传OBS桶方法请参考[上传数据和算法到OBS](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_0034.html#ZH-CN_TOPIC_0000002237752361__section1086910284506)。
 
 #### 上传算法到SFS
1. 下载Swin-Transformer代码。
   ```
   git clone --recursive https://github.com/microsoft/Swin-Transformer.git
   ```
   
2. 修改lr_scheduler.py文件，把第27行：t_mul=1. 注释掉。
3. 修改data文件夹下imagenet22k_dataset.py，把第28行：print("ERROR IMG LOADED: ", path) 注释掉。
4. 修改data文件夹下的build.py文件，把第112行：prefix = 'ILSVRC2011fall_whole'，改为prefix = 'ILSVRC2021winner21k_whole'。
5. 在Swin-Transformer目录下创建requirements.txt指定python依赖库：
   ```
   # requirements.txt内容如下
   timm==0.4.12
   termcolor==1.1.0
   yacs==0.1.8
   ```
   
6. 准备run.sh文件中所需要的obs文件路径。
   1. 准备imagenet数据集的分享链接。 勾选要分享的imagenet21k_whole数据集文件夹，单击分享按钮，选择分享链接有效期，自定义提取码，例如123456，单击"复制链接"，记录该链接。
      
   
   2. 准备"obsutil_linux_amd64.tar.gz"的分享链接。 参考[下载和安装obsutil](https://support.huaweicloud.com/utiltg-obs/obs_11_0003.html)下载"obsutil_linux_amd64.tar.gz"，将其上传至OBS桶中，设置为公共读。单击属性，单击复制链接。
      链接样例如下：
      ```
      https://${bucketname_name}.obs.cn-north-4.myhuaweicloud.com/${folders_name}/pytorch.tar.gz
      ```
      
    
7. 在Swin-Transformer目录下，创建运行脚本run.sh。
   ![](https://support.huaweicloud.com/bestpractice-modelarts/public_sys-resources/note_3.0-zh-cn.png)
   - 脚本中的"SRC_DATA_PATH=${imagenet数据集在OBS中分享的链接}"，需要替换为上一步中的imagenet21k_whole文件夹分享链接。
   
   - 脚本中的"https://${bucket_name}.obs.cn-north-4.myhuaweicloud.com/${folder_name}/obsutil_linux_amd64.tar.gz"，需要替换为上一步中obsutil_linux_amd64.tar.gz在OBS上的路径（需将文件设置为公共读）。
    
   单机单卡运行脚本：
   ```
   # 在代码主目录下创建一个run.sh，内容如下
   #!/bin/bash
   # 从obs中下载数据到本地SSD盘
   DIS_DATA_PATH=/cache
   SRC_DATA_PATH=${imagenet数据集在OBS中分享的链接}
   OBSUTIL_PATH=https://${bucket_name}.obs.cn-north-4.myhuaweicloud.com/${folder_name}/obsutil_linux_amd64.tar.gz
   mkdir -p $DIS_DATA_PATH && cd $DIS_DATA_PATH && wget $OBSUTIL_PATH && tar -xzvf obsutil_linux_amd64.tar.gz && $DIS_DATA_PATH/obsutil_linux_amd64*/obsutil share-cp $SRC_DATA_PATH $DIS_DATA_PATH/ -ac=123456 -r -f -j 256 && cd -
   IMAGE_DATA_PATH=$DIS_DATA_PATH/imagenet21k_whole
   # 模型训练过程中模型权重、训练配置等的保存路径
   OUTPUT_PATH=/cache/output
   MASTER_PORT="6061"
   /home/ma-user/anaconda3/envs/pytorch/bin/python -m torch.distributed.launch --nproc_per_node=1 --master_addr localhost --master_port=$MASTER_PORT main.py --data-path $IMAGE_DATA_PATH --output $OUTPUT_PATH --cfg ./configs/swin/swin_base_patch4_window7_224_22k.yaml --local_rank 0
   ```
   多机多卡运行脚本：
   ```
   # 创建run.sh
   #!/bin/bash
   # 从obs中下载数据到本地SSD盘
   DIS_DATA_PATH=/cache
   SRC_DATA_PATH=${imagenet数据集在OBS中分享的链接}
   OBSUTIL_PATH=https://${bucket_name}.obs.cn-north-4.myhuaweicloud.com/${folder_name}/obsutil_linux_amd64.tar.gz
   mkdir -p $DIS_DATA_PATH && cd $DIS_DATA_PATH && wget $OBSUTIL_PATH && tar -xzvf obsutil_linux_amd64.tar.gz && $DIS_DATA_PATH/obsutil_linux_amd64*/obsutil share-cp $SRC_DATA_PATH $DIS_DATA_PATH/ -ac=123456 -r -f -j 256 && cd -
   IMAGE_DATA_PATH=$DIS_DATA_PATH/imagenet21k_whole
   # 模型训练过程中模型权重、训练配置等的保存路径
   OUTPUT_PATH=/cache/output
   MASTER_ADDR=$(echo ${VC_WORKER_HOSTS} | cut -d "," -f 1)
   MASTER_PORT="6060"
   NNODES="$VC_WORKER_NUM"
   NODE_RANK="$VC_TASK_INDEX"
   NGPUS_PER_NODE="$MA_NUM_GPUS"
   /home/ma-user/anaconda3/envs/pytorch/bin/python -m torch.distributed.launch --nnodes=$NNODES --node_rank=$NODE_RANK --nproc_per_node=$NGPUS_PER_NODE --master_addr $MASTER_ADDR --master_port=$MASTER_PORT main.py --data-path $IMAGE_DATA_PATH --output=$OUTPUT_PATH --cfg ./configs/swin/swin_base_patch4_window7_224_22k.yaml
   ```
   ![](https://support.huaweicloud.com/bestpractice-modelarts/public_sys-resources/note_3.0-zh-cn.png)
   - 推荐先使用单机单卡运行脚本，待正常运行后再改用多机多卡运行脚本。
   
   - 多机多卡run.sh中的"VC_WORKER_HOSTS"、"VC_WORKER_NUM"、"VC_TASK_INDEX"、"MA_NUM_GPUS"为ModelArts训练容器中预置的环境变量。训练容器环境变量详细介绍可参考[查看训练容器环境变量](https://support.huaweicloud.com/develop-modelarts/develop-modelarts-0104.html)。
   
   - run.sh中的OUTPUT_PATH是训练过程中保存模型权重、训练配置等中间结果的路径。如果训练脚本中"config.TRAIN.AUTO_RESUME"为"True"（默认值为True），在开始训练时会自动在OUTPUT_PATH路径中加载最新的模型权重。
     
8. 通过obsutil，将代码文件夹放到OBS上，然后通过OBS将代码传至SFS相应目录中。
9. 在SFS中将代码文件Swin-Transformer-main设置归属为ma-user。
   ```
   chown -R ma-user:ma-group Swin-Transformer
   ```
   
10. 执行以下命令，去除Shell脚本的\\r字符。
    ```
    cd Swin-Transformer
    sed -i 's/\r//' run.sh
    ```
    ![](https://support.huaweicloud.com/bestpractice-modelarts/public_sys-resources/note_3.0-zh-cn.png)
    Shell脚本在Windows系统编写时，每行结尾是\\r\\n，而在Linux系统中行每行结尾是\\n，所以在Linux系统中运行脚本时，会认为\\r是一个字符，导致运行报错"$'\\r': command not found"，因此需要去除Shell脚本的\\r字符。
    
 
 #### 使用notebook进行代码调试
由于Notebook的/cache目录只能支持500G的存储，超过后会导致实例重启，ImageNet数据集大小超过该限制，因此建议用线下资源调试、或用小批量数据集在Notebook调试（Notebook调试方法请参见[使用Notebook进行代码调试](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_0034.html#ZH-CN_TOPIC_0000002237752361__section172203517380)）。
 #### 创建多机多卡训练作业
1. 登录[ModelArts管理控制台](https://console.huaweicloud.com/modelarts)，检查当前账号是否已完成访问授权的配置。如未完成，请参考[使用委托授权](https://support.huaweicloud.com/permission-modelarts/modelarts_24_0085.html)**。**针对之前使用访问密钥授权的用户，建议清空授权，然后使用委托进行授权。
2. 在左侧导航栏中选择"模型训练 \> 训练作业"，默认进入"训练作业"列表。
3. 在"创建训练作业"页面，填写相关参数信息，然后单击"提交"。
   - 创建方式：选择"自定义算法"。
   
   - 启动方式：选择"自定义"。
   
   - 镜像：选择上传的自定义镜像。
   
   - 启动命令：
     ```
     cd /home/ma-user/work/code/Swin-Transformer && /home/ma-user/anaconda3/envs/pytorch/bin/pip install -r requirements.txt && /bin/sh run.sh
     ```
     
   
   - 自动重启：打开自动重启，配置重启次数，这样当节点发生故障后，平台会自动完成作业重启和故障节点隔离。 如果打开自动重启，需要在"run.sh"脚本中配置output输出路径，从而保障当发生故障时，能基于上一轮保存的模型权重继续训练，最大化减少资源的浪费。
     
   
   - 资源池：在"专属资源池"页签选择GPU规格的专属资源池。
   
   - 规格：选择所需GPU规格。
   
   - 计算节点个数：选择需要的节点个数。
   
   - SFS Turbo：增加挂载配置，选择SFS名称，云上挂载路径为"/home/ma-user/work"。
     ![](https://support.huaweicloud.com/bestpractice-modelarts/public_sys-resources/note_3.0-zh-cn.png)
     为了和Notebook调试时代码路径一致，保持相同的启动命令，云上挂载路径需要填写为"/home/ma-user/work"。
     
    
4. 单击"提交"，在"信息确认"页面，确认训练作业的参数信息，确认无误后单击"确定"。
5. 训练作业创建完成后，后台将自动完成容器镜像下载、代码目录下载、执行启动命令等动作。 训练作业一般需要运行一段时间，根据您的训练业务逻辑和选择的资源不同，训练时长将持续几十分钟到几小时不等。