概述
功能简介
魔坊(ModelArts)是华为云提供的一站式AI开发与训推平台,提供算法开发、模型训练、部署上线、资源管理等全生命周期工具链。
模型训练是ModelArts的核心模块,支持用户通过界面化操作及API等方式创建训练任务。您可以使用训练模块快速迭代模型参数、验证不同数据集与超参数组合,训练出满足要求的模型。
AI模型开发的过程,称之为Modeling,一般包含两个阶段:
- 开发阶段:准备并配置环境,调试代码,使代码能够开始进行深度学习训练。推荐在ModelArts训练作业中打开JupyterLab或者SSH远程开发开关创建调试作业。具体请参考调试训练作业。
- 生产阶段:调整数据集、调整超参等,通过多轮实验,训练出理想的模型,推荐在ModelArts训练作业中完成。具体请参考创建训练作业和分布式模型训练。
两个过程可以相互转换。如开发阶段代码稳定后,则会进入实验阶段,通过不断尝试调整超参来迭代模型;或在实验阶段,有一个可以优化训练的性能的想法,则会回到开发阶段,重新优化代码。
产品优势
- 一站式完成模型开发:ModelArts提供从数据准备到模型训练、模型部署上线的端到端AI开发流程,助您一键式完成全流程模型开发。
- 高性能训练资源支持:ModelArts适配华为最新基于昇腾(Ascend)芯片的超节点服务器,并基于华为HCCL(Huawei Cache Coherent System)互联技术,提供超高的训练带宽及超强的训练算力,助力您高效完成超大规模分布式模型训练任务。
- 兼容主流训练框架:ModelArts平台预置了包含PyTorch、TensorFlow、MindSpore、MindSpeed、Llama-Factory、VeOmni等主流训练框架镜像,也提供了自定义镜像,您可基于不同场景灵活选择不同类型开发任务。
- 高可用方案助力训练作业平稳进行:ModelArts提供了完善的断点续训(CheckPoint)功能、训练故障检测机制和多种故障快恢(作业级/Pod级/进程级)方案,大幅提升训练资源的利用率,保证了训练作业的成功率。
- 可观测可运维:支持TensorBoard、MindStudio Insight和AOM监控指标对接,训练过程全程可见。
新旧控制台说明
为提升用户体验,ModelArts推出全新控制台,界面更现代、功能更完整,强烈推荐大多数用户切换至新版。本节将介绍新旧控制台的差异、控制台切换方法以及新旧控制台选择决策说明,便于您能快速了解该使用哪个控制台页面。
- 新旧控制台的差异。
ModelArts新版与旧版控制台在功能入口、创建方式和部分功能支持上存在差异,具体差异参见参考表1 新旧控制台功能对比。
表1 新旧控制台功能对比 对比项
新版控制台
旧版控制台
创建训练作业入口
默认进入新版页面。
需手动切换,切换方法见控制台切换方法。
导航路径
模型开发与训练 > 模型训练
模型训练 > 训练作业
训练实验管理
不支持
支持
快速入门/一键训练
支持
不支持
创建方式
精调作业/自定义作业
算法管理/常用框架/自定义
发布到资产
支持
不支持
高可用与可观测配置
支持
不支持
- 控制台切换方法。
- 新旧版控制台选择决策说明。
您可以根据表2 新旧控制台选择决策说明描述场景决定使用新版还是旧版控制台。
- 模型训练全文以新版本控制台为基础介绍不同的操作流程,如您还在使用旧版控制台,相关操作指导请参考旧版控制台功能。
- 新版控制台页面正在逐步上线,如无法切换新旧版控制台,说明当前站点暂时还未上线,请以实际站点为准。
表3是模型训练全流程的概述,请您根据要实际训练场景,参考对应章节。
| 操作任务 | 子任务 | 说明 |
|---|---|---|
| 准备训练资源 | 在开始训练之前,需要保证计算资源已经就位。 | |
| 准备训练数据 | 训练数据除了训练数据集,也可以是预测模型。在创建训练作业前,需要先准备好训练数据。
| |
| 准备训练镜像 | 模型训练提供多种主流训练框架的预置镜像,也支持使用自定义镜像,方便您灵活选择。
| |
| 准备训练代码 | 训练代码包含训练作业的启动文件或启动命令、训练依赖包等内容。您可以使用预置框架提供的训练脚本或自定义训练代码执行训练任务。 | |
| 调试训练作业 | 模型训练前,一般会先对训练代码进行调试,ModelArts提供多种方式创建调试训练作业。
| |
| 训练作业基础功能 |
| |
| 训练作业进阶功能 | ModelArts还支持以下训练进阶功能,例如: | |
| 查看训练作业详情 | 训练作业运行中或运行结束后,可以在训练作业详情页面查看训练作业的参数设置,训练作业事件等,请参考查看训练作业列表和详情。 | |
| 查看训练作业日志 | 训练日志用于记录训练作业运行过程和异常信息,可以通过查看训练作业日志定位作业运行中出现的问题。 |
训练场景选择
ModelArts提供了多种训练场景,可以通过一键完成训练的快速训练场景,也支持创建超大分布式训练任务。无论您是对AI感兴趣但没有经验的开发者,还是资深的大模型专家,在这里都能找到需要的训练场景。
本节针对不同需求的用户,提供不同的训练场景说明,便于您快速获取想要的内容。
| 用户类型 | 关注重点 | 优先参考文档 |
|---|---|---|
| 对模型训练感兴趣,但没有相关经验,想通过创建训练任务了解大模型的训练流程。 | 如何快速跑通一个训练任务。 | |
| 能独立完成模型训练任务,能使用预置训练框架完成模型训练。 |
| |
| 资深模型训练专家,对ModelArts模型训练有深入了解,想通过ModelArts完成超大训练任务。 |
|


