# 概述 #### 功能简介 魔坊（ModelArts）是华为云提供的一站式AI开发与训推平台，提供算法开发、模型训练、部署上线、资源管理等全生命周期工具链。 **模型训练**是ModelArts的核心模块，支持用户通过界面化操作及API等方式创建训练任务。您可以使用训练模块快速迭代模型参数、验证不同数据集与超参数组合，训练出满足要求的模型。 AI模型开发的过程，称之为Modeling，一般包含两个阶段： - **开发阶段** ：准备并配置环境，调试代码，使代码能够开始进行深度学习训练。推荐在ModelArts训练作业中打开**JupyterLab** 或者**SSH远程开发** 开关创建调试作业。具体请参考[调试训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-1418.html)。 - **实验阶段** ：调整数据集、调整超参等，通过多轮实验，训练出理想的模型，推荐在ModelArts训练作业中完成。具体请参考[创建训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0005.html)和[分布式模型训练](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0024.html)。 两个过程可以相互转换。开发阶段代码稳定后，进入实验阶段，通过调整超参来迭代模型；实验阶段如果需要优化训练性能，则回到开发阶段重新优化代码。 图1模型开发过程 ![](https://support.huaweicloud.com/usermanual-standard-modelarts/figure/zh-cn_image_0000002665345893.png "点击放大") #### 产品优势 - **一站式完成模型开发** **：**ModelArts提供从数据准备到模型训练、模型部署上线的端到端AI开发流程，助您一键式完成全流程模型开发。 - **高性能训练资源支持：**ModelArts适配华为最新基于昇腾（Ascend）芯片的超节点服务器，并基于华为HCCL（Huawei Collective Communication Library）互联技术，提供超高的训练带宽及超强的训练算力，助力您高效完成超大规模分布式模型训练任务。 - **兼容主流训练框架：**ModelArts平台预置了包含PyTorch、TensorFlow、MindSpore、MindSpeed、Llama-Factory、VeOmni等主流训练框架镜像，也支持使用自定义镜像，您可基于不同场景灵活。 - **高可用方案保障训练作业平稳运行：**ModelArts提供了完善的断点续训（CheckPoint）功能、训练故障检测机制和多种故障快恢（作业级/Pod级/进程级）方案，大幅提升训练资源的利用率，保证了训练作业的成功率。 - **可观测可运维**：支持TensorBoard、MindStudio Insight和AOM监控指标对接，训练过程全程可见。 #### 新旧控制台说明 为提升用户体验，ModelArts推出全新控制台，界面更现代、功能更完整，强烈推荐大多数用户切换至新版。本节将介绍[新旧控制台的差异]、[控制台切换方法]以及[新旧控制台选择决策说明]，便于您能快速了解该使用哪个控制台页面。 1. **新旧控制台的差异。** ModelArts新版与旧版控制台在功能入口、创建方式和部分功能支持上存在差异，具体差异参见[表1 新旧控制台功能对比]。 表1新旧控制台功能对比 | 对比项 | 新版控制台 | 旧版控制台 | |:---|:---|:---| | 创建训练作业入口 | 默认进入新版页面。 | 需手动切换，切换方法见[控制台切换方法]。 | | 导航路径 | 模型开发与训练 \> 模型训练 | 模型训练 \> 训练作业 | | 训练实验管理 | 不支持 | 支持 | | 快速入门/一键训练 | 支持 | 不支持 | | 创建方式 | 精调作业/自定义作业 | 算法管理/常用框架/自定义 | | 发布到资产 | 支持 | 不支持 | | 高可用与可观测配置 | 支持 | 不支持 | 2. **控制台切换方法。** - 在旧版控制台总览页左下角或右上角单击**前往新版** 即可切换到新版控制台。切换方法如[图2]所示。 图2切换到新版控制台方法 ![](https://support.huaweicloud.com/usermanual-standard-modelarts/figure/zh-cn_image_0000002665354327.png "点击放大") - 在新版控制台总览页左下角单击**返回** **旧版** 即可切换到旧版控制台。切换方法如[图3]所示。 图3切换到旧版控制台方法 ![](https://support.huaweicloud.com/usermanual-standard-modelarts/figure/zh-cn_image_0000002665474257.png "点击放大") 3. **新旧版控制台选择决策说明** 。 您可以根据[表2 新旧控制台选择决策说明]描述场景决定使用新版还是旧版控制台。 表2新旧控制台选择决策说明 | 您的场景 | 推荐版本 | 决策理由与操作建议 | |:---|:---|:---| | 您是新用户，想要体验和学习模型训练。 | 新版控制台（强烈推荐） | 提供**快速入门**专区、一键训练案例、清晰的开发/实验阶段引导。体验更友好，功能更新迭代更快，便于您快速上手操作。 | | 大模型微调 | 新版控制台 | 新版支持一键训练、模型精调作业等最新特性，使用新版本可以直接使用控制台完成大模型微调。 | | 已有旧版训练作业正在运行。 | 旧版查看管理，新建任务使用新版 | 旧版作业可继续监控，但新任务迁移至新版可获得更好工具支持。 | | 依赖特定历史功能 | 旧版（临时使用） | 未来将逐步迁移至新版，建议尽早适配。 | ![](https://support.huaweicloud.com/usermanual-standard-modelarts/public_sys-resources/note_3.0-zh-cn.png) 1. 模型训练全文以新版本控制台为基础介绍不同的操作流程，如您还在使用旧版控制台，相关操作指导请参考[旧版控制台功能](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-1434.html)。 2. 新版控制台页面正在逐步上线，如无法切换新旧版控制台，说明当前站点暂时还未上线，请以实际站点为准。 #### 使用流程 您可以按照如[图4]所示的流程，完成一个完整的训练任务。同时，您也可以根据[训练场景选择]章节所述，参考不同章节完成训练任务。 图4ModelArts模型训练流程 ![](https://support.huaweicloud.com/usermanual-standard-modelarts/figure/zh-cn_image_0000002665731099.png "点击放大") [表3]是模型训练全流程的概述，请您根据实际训练场景，参考对应章节。 表3模型训练全流程 | 操作任务 | 子任务 | 说明 | |:---|:---|:---| | [准备工作](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0136.html) | 准备训练资源 | 在开始训练之前，需要保证计算资源已经就位。 | | [准备工作](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0136.html) | 准备训练数据 | 训练数据除了训练数据集，也可以是预测模型。在创建训练作业前，需要先准备好训练数据。 - 当训练数据可以直接使用，无需二次处理时，可以直接将数据上传至OBS桶。在创建训练作业时，训练的输入参数位置可以直接填写OBS桶路径。 - 当训练数据集的数据未标注或者需要进一步的数据预处理，可以先将数据导入ModelArts数据准备模块进行数据预处理。在创建训练作业时，训练的输入参数位置可以选择数据资产模块的自定义数据集。 | | [准备工作](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0136.html) | 准备训练镜像 | 模型训练提供多种主流训练框架的预置镜像，也支持使用自定义镜像，方便您灵活选择。 - ModelArts平台提供了模型训练常用的预置框架，参考[ModelArts预置镜像](https://support.huaweicloud.com/docker-modelarts/docker-modelarts_6030.html) 可以直接使用。 - 当预置框架不满足训练要求时，您也可以构建自定义镜像用于训练。 | | [准备工作](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0136.html) | 准备训练代码 | 训练代码包含训练作业的启动文件或启动命令、训练依赖包等内容。您可以使用预置框架提供的训练脚本或自定义训练代码执行训练任务。 | | [创建调试训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-1418.html) | 调试训练作业 | 模型训练前，需先对训练代码进行调试，ModelArts提供多种方式创建调试训练作业。 - ModelArts提供了云化版本的JupyterLab，无需关注安装配置，即开即用。调试模式的训练作业支持连接JupyterLab，云上调试和运行代码，调试完成的代码可以直接创建生产训练作业。参考[创建并调试训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0042.html)。 - ModelArts也提供了本地IDE的方式开发模型，通过开启SSH远程开发，本地IDE可以远程连接到调试训练作业中，进行调试和运行代码。本地IDE方式不影响用户的编码习惯，并且调试完成的代码可以零成本直接创建生产训练作业。 | | [创建生产训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0005.html) | 训练作业基础功能 | - ModelArts支持通过控制台的可视化界面创建训练作业，具体请参见[创建自定义训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0006.html)。 - ModelArts也支持通过调用API接口创建训练作业，请参见[使用API创建训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0139.html)。 | | [创建生产训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0005.html) | 训练作业进阶功能 | ModelArts还支持以下训练进阶功能，例如： - [增量训练](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-1420.html) - [分布式训练](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0024.html) - [训练加速](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-1432.html) - [训练高可靠性](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0120.html) | | [查看与管理训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-1422.html) | 查看训练作业详情 | 训练作业运行中或运行结束后，可以在训练作业详情页面查看训练作业的参数设置，训练作业事件等，请参考[查看训练作业列表和详情](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0027.html)。 | | [查看与管理训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-1422.html) | 查看训练作业日志 | 训练日志用于记录训练作业运行过程和异常信息，可以通过查看训练作业日志定位作业运行中出现的问题。 | #### 训练场景选择 ModelArts提供了多种训练场景，可以通过一键完成训练的快速训练场景，也支持创建超大分布式训练任务。无论您是对AI感兴趣但没有经验的开发者，还是资深的大模型专家，在这里都能找到需要的训练场景。 本节针对不同需求的用户，提供不同的训练场景说明，便于您快速获取想要的内容。 表4训练场景选择 | 用户类型 | 关注重点 | 优先参考文档 | |:---|:---|:---| | 对模型训练感兴趣，但没有相关经验，想通过创建训练任务了解大模型的训练流程。 | 如何快速跑通一个训练任务。 | - [快速入门：一键完成模型训练](https://support.huaweicloud.com/qs-modelarts/modelarts_06_0010.html) - [创建一键训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0138.html) | | 能独立完成模型训练任务，能使用预置训练框架完成模型训练。 | - 如何在ModelArts上创建训练任务。 - 如何将本地训练任务迁移到ModelArts。 | - [创建自定义训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0006.html) - [创建精调训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0007.html) - [示例：将本地PyTorch训练代码迁移到ModelArts](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0148.html) - [调试训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-1418.html) - [查看与管理训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-1422.html) | | 资深模型训练专家，对ModelArts模型训练有深入了解，想通过ModelArts完成超大训练任务。 | - 如何构建自己的镜像完成模型训练。 - 使用分布式训练完成超大规模训练作业。 - 使用API完成训练自动化。 - 训练性能优化。 | - [使用API创建训练作业](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0139.html) - [分布式模型训练](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0024.html) - [模型训练优化加速](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-1432.html) - [容错与故障恢复](https://support.huaweicloud.com/usermanual-standard-modelarts/develop-modelarts-0120.html) |