加载插件转换模型

原理说明

加载了用户自定义算子插件的模型转换流程如图1所示

图1 加载插件进行模型转换流程

1. OMG（Offline Model Generate）加载模型文件、自定义算子插件，对模型文件中的算子进行解析，并将自定义算子转换为IR（Intermediate representation）表示。
2. OMG根据运行环境对自定义算子进行数据转换、运行内存计算，同时编译生成自定义算子的二进制文件（*.o）文件，并生成离线模型（*.om）文件
3. 应用程序运行时，OME会获取输入数据，加载离线模型文件进行算子的循环调用执行，输出结果数据。

操作流程

1. 以DDK安装用户进入自定义算子开发工程根目录。

   cd $HOME/tools/projects/customop_te/

2. 执行如下命令进行模型转换。
   omg --model=model/deploy_mylenet-1.prototxt --weight=model/mylenet-1.caffemodel --framework=0 --plugin_path=plugin --output=mylenet --ddk_version=1.3.T18.B850

   • --model项的值为mylenet网络的原始模型文件的相对路径。

   • --weight项的值为mylenet网络的预训练模型文件的相对路径。
   • --framework为原始框架类型。
     • 0：caffe
     • 3：tensorflow
   • --plugin项的值为自定义算子插件所在目录。
   • --output项的值为输出模型文件的名称，用户可自定义。
   • --ddk_version项的值为自定义算子运行需要匹配DDK的版本号，可在“$HOME/tools/che/ddk/ddk/ddk_info”文件中查看DDK版本号。
     

     更多参数说明请参考《模型转换指导》。