更新时间:2021-03-18 GMT+08:00
分享

模型加载

图1 模型加载流程
  • 在模型加载前,需使用ATC工具将第三方网络(例如,Caffe ResNet-50网络)转换为适配昇腾AI处理器的离线模型(*.om文件),请参见ATC工具使用指导
    • 静态多Batch场景下,在转换模型时,需通过input_shape参数设置Batch数。
    • 动态Batch场景下,在转换模型时,需通过dynamic_batch_size参数设置每个档位的Batch数。
    • 动态分辨率场景下,在转换模型时,需通过dynamic_image_size参数设置每个档位的输入图片分辨率。
    • 动态AIPP场景下,在转换模型时,需通过insert_op_conf参数中的配置文件指定aipp_mode为dynamic。
  • 支持以下方式加载模型,模型加载成功后,返回标识模型的模型ID:
    • aclmdlLoadFromFile:从文件加载离线模型数据,由系统内部管理内存。
    • aclmdlLoadFromMem:从内存加载离线模型数据,由系统内部管理内存。
    • aclmdlLoadFromFileWithMem:从文件加载离线模型数据,由用户自行管理模型运行的内存(包括工作内存和权值内存,工作内存用于模型的输入输出等数据,权值内存用于存放权值数据)。
    • aclmdlLoadFromMemWithMem:从内存加载离线模型数据,由用户自行管理模型运行的内存(包括工作内存和权值内存)。
分享:

    相关文档

    相关产品

close