在JupyterLab中使用MindInsight可视化作业
ModelArts支持在开发环境中开启MindInsight可视化工具。在开发环境中通过小数据集训练调试算法,主要目的是验证算法收敛性、检查是否有训练过程中的问题,方便用户调测。
MindInsight能可视化展现出训练过程中的标量、图像、计算图以及模型超参等信息,同时提供训练看板、模型溯源、数据溯源、性能调试等功能,帮助您更高效地训练调试模型。MindInsight当前支持基于MindSpore引擎的训练作业。MindInsight相关概念请参考MindSpore官网。
MindSpore支持将数据信息保存到Summary日志文件中,并通过可视化界面MindInsight进行展示。
前提条件
使用MindSpore引擎编写训练脚本时,为了保证训练结果中输出Summary文件,您需要在脚本中添加收集Summary相关代码。
将数据记录到Summary日志文件中的具体方式请参考收集Summary数据。
注意事项
- 在开发环境跑训练任务,在开发环境使用MindInsight,要求先启动MindInsight,后启动训练进程。
- 仅支持单机单卡训练。
- 运行中的可视化作业不单独计费,当停止Notebook实例时,计费停止。
- Summary文件如果存放在OBS中,由OBS单独收费。任务完成后请及时停止Notebook实例,清理OBS数据,避免产生不必要的费用。
在开发环境中创建MindInsight可视化作业流程
Step2 上传Summary数据
在开发环境中使用MindInsight可视化功能,需要用到Summary数据。
Summary数据可以直接传到开发环境的这个路径下/home/ma-user/work/,也可以放到OBS并行文件系统中。
- Summary数据上传到Notebook路径/home/ma-user/work/下的方式,请参见上传数据至Notebook。
- Summary数据如果是通过OBS并行文件系统挂载到Notebook中,请将模型训练时产生的Summary文件先上传到OBS并行文件系统,并确保OBS并行文件系统与ModelArts在同一区域。在Notebook中启动MindInsight时,Notebook会自动从挂载的OBS并行文件系统目录中读取Summary数据。
单击,直接进入MindInsight可视化界面。
默认读取路径/home/ma-user/work/
当存在两个以及以上工程的log时,界面如下。通过Runs下选择查看相对应的log。
![](https://support.huaweicloud.com/usermanual-standard-modelarts/figure/zh-cn_image_0000001452516989.png)
Step4 查看训练看板中的可视化数据
训练看板是MindInsight的可视化组件的重要组成部分,而训练看板的标签包含:标量可视化、参数分布图可视化、计算图可视化、数据图可视化、图像可视化和张量可视化等。
更多功能介绍请参见MindSpore官网资料:查看训练看板中可视的数据。
关闭MindInsight
![](https://support.huaweicloud.com/usermanual-standard-modelarts/figure/zh-cn_image_0000001402317084.png)
![](https://support.huaweicloud.com/usermanual-standard-modelarts/figure/zh-cn_image_0000001452756957.png)