更新时间:2024-05-17 GMT+08:00
分享

自动诊断工具MA-Advisor简介

MA-Advisor简介

MA-Advisor是一款昇腾迁移辅助工具,当前包含两大类功能:

一、迁移性能自动诊断,当前支持如下场景的自动诊断:

  • 推理场景下的子图数据调优分析,给出对应融合算子的调优建议。
  • 推理、训练场景下对Profiling timeline单卡数据进行调优分析,给出相关亲和API替换的调优建议。
  • 推理、训练场景下对Profiling单卡数据进行调优分析,给出AICPU相关调优建议。
  • 推理、训练场景下对Profiling单卡数据进行调优分析,给出block dim、operator no bound相关AOE配置以及调优建议。
  • 支持对昇腾训练、推理环境进行预检,完成相关依赖配置项的提前检查,并在检测出问题时给出相关修复建议。

二、迁移环境问题诊断,将迁移环境常见问题一次性扫描诊断给出结果。

代码迁移的调优流程主要如下:

图1 调优流程
  1. 基于Pytorch Adapter完成GPU代码迁移至NPU。
  2. 参考《Ascend PyTorch Profiler数据采集与分析》采集训练的Profiling数据,建议Profiling时的训练步数比“torch_npu.profiler.schedule”中各项参数之和大1。
  3. 使用ma-advisor命令行工具对上述Profiling数据进行分析,会在当前工作目录下输出“ma_advisor_{timestamp}.html”“log/ma_advisor_{timestamp}.xlsx”文件,如果识别到AOE相关调优项,会在当前工作目录下生成“operator_tuning_file.cfg”文件.
  4. 优先根据“ma_advisor_{timestamp}.html”中的建议对训练任务进行调优,包括亲和API替换、算子调优(AOE调优、二进制调优、AI CPU分析)等。

安装教程

  1. 下载ma-advisor安装包。
  2. (可选)完成软件包签名校验。

    a. 下载软件包签名校验文件

    b. 安装openssl并进行软件一致性验证,具体签名校验命令如下:

    openssl cms -verify -binary -in ma_advisor-latest-py3-none-any.whl.cms -inform DER -content ma_advisor-latest-py3-none-any.whl  -noverify > ./test

    签名校验结果如下所示则完成软件的一致性验证。

    图2 一致性验证

  3. 执行安装命令。

    pip install ma_advisor-latest-py3-none-any.whl

分享:

    相关文档

    相关产品