更新时间:2021-03-18 GMT+08:00
模型加载
图1 模型加载流程


- 在模型加载前,需使用ATC工具将第三方网络(例如,Caffe ResNet-50网络)转换为适配昇腾AI处理器的离线模型(*.om文件),请参见《ATC工具使用指导》。
- 静态多Batch场景下,在转换模型时,需通过input_shape参数设置Batch数。
- 动态Batch场景下,在转换模型时,需通过dynamic_batch_size参数设置每个档位的Batch数。
- 动态分辨率场景下,在转换模型时,需通过dynamic_image_size参数设置每个档位的输入图片分辨率。
- 动态AIPP场景下,在转换模型时,需通过insert_op_conf参数中的配置文件指定aipp_mode为dynamic。
- 支持以下方式加载模型,模型加载成功后,返回标识模型的模型ID:
- aclmdlLoadFromFile:从文件加载离线模型数据,由系统内部管理内存。
- aclmdlLoadFromMem:从内存加载离线模型数据,由系统内部管理内存。
- aclmdlLoadFromFileWithMem:从文件加载离线模型数据,由用户自行管理模型运行的内存(包括工作内存和权值内存,工作内存用于模型的输入输出等数据,权值内存用于存放权值数据)。
- aclmdlLoadFromMemWithMem:从内存加载离线模型数据,由用户自行管理模型运行的内存(包括工作内存和权值内存)。
父主题: 接口调用流程介绍
