更新时间:2024-08-16 GMT+08:00
分享

在JupyterLab中使用MindInsight可视化作业

ModelArts支持在开发环境中开启MindInsight可视化工具。在开发环境中通过小数据集训练调试算法,主要目的是验证算法收敛性、检查是否有训练过程中的问题,方便用户调测。

MindInsight能可视化展现出训练过程中的标量、图像、计算图以及模型超参等信息,同时提供训练看板、模型溯源、数据溯源、性能调试等功能,帮助您更高效地训练调试模型。MindInsight当前支持基于MindSpore引擎的训练作业。MindInsight相关概念请参考MindSpore官网

MindSpore支持将数据信息保存到Summary日志文件中,并通过可视化界面MindInsight进行展示。

前提条件

使用MindSpore引擎编写训练脚本时,为了保证训练结果中输出Summary文件,您需要在脚本中添加收集Summary相关代码。

将数据记录到Summary日志文件中的具体方式请参考收集Summary数据

注意事项

  • 在开发环境跑训练任务,在开发环境使用MindInsight,要求先启动MindInsight,后启动训练进程。
  • 仅支持单机单卡训练。
  • 运行中的可视化作业不单独计费,当停止Notebook实例时,计费停止。
  • Summary文件如果存放在OBS中,由OBS单独收费。任务完成后请及时停止Notebook实例,清理OBS数据,避免产生不必要的费用。

Step1 创建开发环境并在线打开

在ModelArts控制台,进入开发空间> Notebook页面,创建MindSpore引擎的开发环境实例。创建成功后,单击开发环境实例操作栏右侧的打开 ,在线打开运行中的开发环境。

Step2 上传Summary数据

在开发环境中使用MindInsight可视化功能,需要用到Summary数据。

Summary数据可以直接传到开发环境的这个路径下/home/ma-user/work/,也可以放到OBS并行文件系统中。

  • Summary数据上传到Notebook路径/home/ma-user/work/下的方式,请参见上传数据至Notebook
  • Summary数据如果是通过OBS并行文件系统挂载到Notebook中,请将模型训练时产生的Summary文件先上传到OBS并行文件系统,并确保OBS并行文件系统与ModelArts在同一区域。在Notebook中启动MindInsight时,Notebook会自动从挂载的OBS并行文件系统目录中读取Summary数据。

Step3 启动MindInsight

在开发环境的JupyterLab中打开MindInsight。

图1 JupyterLab中打开MindInsight

单击,直接进入MindInsight可视化界面。

默认读取路径/home/ma-user/work/

当存在两个以及以上工程的log时,界面如下。通过Runs下选择查看相对应的log。

图2 MindInsight界面(2)

Step4 查看训练看板中的可视化数据

训练看板是MindInsight的可视化组件的重要组成部分,而训练看板的标签包含:标量可视化、参数分布图可视化、计算图可视化、数据图可视化、图像可视化和张量可视化等。

更多功能介绍请参见MindSpore官网资料:查看训练看板中可视的数据

关闭MindInsight

关闭MindInsight方式如下单击下方按钮进入MindInsight实例管理界面,该界面记录了所有启动的MindInsight实例,单击对应实例后面的SHUT DOWN即可停止该实例。
图3 单击SHUT DOWN停止实例

相关文档