场景介绍

方案概览

本文档利用训练框架PyTorch_npu+华为自研Ascend Snt9B硬件，为用户提供了常见主流开源大模型在ModelArts Lite Cluster上的训练方案。训练框架使用的是ModelLink。

本方案目前仅适用于企业客户，完成本方案的部署，需要先联系您所在企业的华为方技术支持。

约束限制

• 本文档适配昇腾云ModelArts6.3.912版本，请参考表1获取配套版本的软件包，请严格遵照版本配套关系使用本文档。
• 本文档中的模型运行环境是ModelArts Lite Cluster。
• 本文档中的CCE集群版本选择v1.27~1.28。版本使用的容器引擎为Containerd。
• 镜像适配的Cann版本是cann_8.0.rc3，驱动版本是23.0.6。
• 确保集群可以访问公网。

文档更新内容

6.3.912版本相对于6.3.911版本新增如下内容：

1. 代码结构发生变化，统一modellink和llama-factory的启动方式。
2. 继承911版本启动方式以外新加新的启动方式：

   ascendfactory-cli train xx.yaml model-name exp_name

3. 相对于6.3.911版本仅是使用run_type来指定训练的类型，只能区分 预训练、全参微调和lora微调但实际上预训练和sft是训练的不同阶段，全参、lora是训练参数设置方式。为了更加明确地区分不同策略，以及和llama-factory对齐，6.3.912版本调整以下参数：
   • 新增 STAGE，表示训练的阶段，可以选择的参数包括: {pt, sft}.
   • 新增 FINETUNING_TYPE，表示微调的策略，可以选择的参数包括：{full, lora}
   • 删除 RUN_TYPE

   所以当前的组合情况为：

   项目	full	lora
   pt（预训练）	√	√
   sft（指令微调）	√	√

训练支持的模型列表

本方案支持以下模型的训练，如表1所示。

操作流程