更新时间:2021-03-18 GMT+08:00
分享

比对数据说明

执行Vector比对前,请按照表1要求准备好比对数据。

My Output离线模型文件与量化融合规则文件使用场景说明:

  • 离线模型文件:使用昇腾AI处理器运行生成的Dump数据与Ground Truth比对,选择该模型文件。
  • 量化融合规则文件:只要涉及量化与非量化数据比对,则必须选择该文件。
表1 Vector比对前数据准备

序号

待比对数据(My Output)

标准数据(Ground Truth)

模型文件/融合规则文件

1

非量化离线模型在昇腾AI处理器上运行生成的dump数据

非量化原始模型的dump数据(Caffe)

非量化离线模型文件(*.om)

2

量化离线模型在昇腾AI处理器上运行生成的dump数据

非量化原始模型的dump数据(Caffe)

  • 量化离线模型文件(*.om)
  • 模型小型化后的量化融合规则文件(json文件)

3

量化原始模型的dump数据(Caffe)

非量化原始模型的dump数据(Caffe)

模型小型化后的量化融合规则文件(json文件)

4

量化离线模型在昇腾AI处理器上运行生成的dump数据

量化原始模型的dump数据(Caffe)

量化离线模型文件(*.om)

5

非量化离线模型在昇腾AI处理器上运行生成的dump数据

非量化原始模型的dump数据(TensorFlow)

非量化离线模型文件(*.om)

6

通过昇腾AI处理器运行生成的Dump数据

通过昇腾AI处理器运行生成的Dump数据

-

分享:

    相关文档

    相关产品

close