执行训练任务

选择镜像

必选

选择训练需要的容器镜像。本方案中选择预置镜像。

平台中预置了MindSpeed-LLM框架训练所需镜像环境，可以直接使用，无需用户再准备。

预置镜像

镜像地址

必选

具体的镜像地址，MindSpeed-LLM镜像中包含了训练所需环境必备软件，例如：Cann包、驱动、PyTorch、MindSpeed-LLM框架代码包等。

MindSpeed-LLM

启动命令

必选

训练镜像的启动命令。

此处需要提前将训练作业启动脚本及关联脚本文件都放入OBS桶中。

配置好所有脚本中的参数后执行run_distributed_task.sh即可，此脚本中包含了权重转化、数据处理、微调任务以及模型保存以及检查等配置。

启动命令中首先需要cd到自己存放训练启动总脚本所在的容器内本地代码目录。

多机训练场景

cd /home/ma-user/MA_Turbo/src/open_source/MindSpeed-LLM/code
bash run_distributed_task.sh

单机训练场景，同样使用上述脚本。

代码目录

必选

代码存在OBS中时，选择OBS桶路径obs://mindspeed-llm/mindspeed-llm-a2/代码目录。

训练时会将OBS路径内所有文件拷贝到训练容器的此目录中，并且对于此目录在容器内的修改不会反馈到OBS桶内。

如果OBS桶内文件太大则可能导致下载文件到训练容器内时间可能过长，导致任务启动变慢。

推荐优化方式为一个模型训练任务的脚本、模型文件夹、数据集文件夹在一个OBS桶路径内挂载，仅供本次训练任务使用。

obs://mindspeed-llm/mindspeed-llm-a2/

本地代码目录

必选

用于指定训练容器的本地目录，启动训练时系统会将OBS上的代码目录下载至此目录并覆盖，请使用新创建的目录。

MindSpeed-LLM及其依赖的安装目录在/home/ma-user/MA_Turbo/src/open_source/MindSpeed-LLM下，请在其中创建新目录作为本地代码目录，如/home/ma-user/MA_Turbo/src/open_source/MindSpeed-LLM/code。

如果OBS中的代码目录为obs://mindspeed-llm/input/，那么容器内目录结构为

/home/ma-user/MA_Turbo/src/open_source/MindSpeed-LLM/code/input/

/home/ma-user/MA_Turbo/src/open_source/MindSpeed-LLM/code

环境变量

可选

使用训练脚本时，需添加输出环境变量，例如output_dir为参数名称（可以自定义），/home/ma-user/modelarts/outputs/output_dir_0为输出路径，用于保存预处理后的数据、checkpoint、训练日志至OBS。类似设置待训练模型路径的环境变量model_path以及待处理的数据集路径的环境变量dataset_path。

注意：拓展存储的OBS路径是将OBS的存储位置选定的文件夹在云上挂载路径下创建同名的文件夹并与之挂载。例如拓展存储OBS选择存储位置为/test/mindspeed-llm/output_dir_0, 云上挂载路径选择/home/ma-user/modelarts/outputs，则设置环境变量output_dir为/home/ma-user/modelarts/outputs/output_dir_0，即可将输出放在OBS中。

参数：output_dir

值：/home/ma-user/modelarts/outputs/output_dir_0