配置云资源
本文档中涉及到的资源如下,请提前准备。
资源要求
|
准备项 |
是否可选 |
说明 |
操作指导 |
|---|---|---|---|
|
ModelArts算力资源 |
必选 |
推荐使用ModelArts专属资源池中的Snt9b资源。 专属资源池需要提前创建,同时要求专属资源池打通VPC可以访问外网。 |
具体请参考创建ModelArts专属资源池。 |
|
OBS桶 |
必选 |
由于ModelArts创建训练作业时,需要从OBS桶中获取模型权重文件、训练数据、训练脚本,并将训练产物输出至OBS桶中,因此创建OBS桶为必选项。 |
请参考准备OBS桶。 |
准备OBS桶
由于ModelArts创建训练作业时,需要从OBS桶中获取模型权重文件、训练数据、训练脚本,并将训练产物输出至OBS桶中,因此创建OBS桶为必选项。具体创建操作请参考创建OBS桶。
OBS桶内文件夹示意如下,此处规划的目录需要和训练脚本中涉及的各类文件路径保持一致。创建训练作业并将OBS桶添加至代码目录后,文件夹中所有文件将被拷贝至训练容器内;若文件体积过大,会造成拷贝速率下降,建议在该目录中仅保留相关文件,避免存放无关内容。
|——{OBS桶} # OBS桶名,可自定义名称,例如:verl
|──{verl-a2} # OBS文件夹,可自定义名称,例如:verl-a2
|──{models} # OBS文件夹,存放各类模型,可自定义名称,例如:models
|──{Qwen3-8b} # OBS文件夹,用于存放模型,可自定义名称,例如:Qwen3-8
|──{Qwen2.5-VL-32b-Instruct} # OBS文件夹,用于存放模型,可自定义名称,例如:Qwen2.5-VL-32b-Instruct
|──run_train_8b.sh # Qwen3-8b训练作业启动脚本
|──run_qwen3-8b_npu_ma.sh # Qwen3-8b训练作业运行脚本
|──run_train_32b.sh # Qwen2.5-VL-32b-Instruct训练作业启动脚本
|──run_qwen2_5_vl_32b_npu_ma.sh # Qwen2.5-VL-32b-Instruct训练作业运行脚本
|──{dataset}/ # OBS文件夹,用于存放各类数据集,可自定义名称,例如:dataset
|──{gsm8k}/ # OBS文件夹,存放训练数据gsm8k
|──{geometry3k}/ # OBS文件夹,存放训练数据geometry3k
|──gsm8k.py # 数据预处理脚本
|──geometry3k.py # 数据预处理脚本
|──{ckpts} # OBS文件夹,用于存放训练输出 ,可自定义名称,例如:ckpts
用户可通过OBS Browser+、obsutil等工具访问和管理OBS桶,上传下载文件和数据。