更新时间:2021-03-18 GMT+08:00
分享

模型转换预处理配置

图1 crop/resize运行示意图中可以看到,crop/resize输出的图像是经过align_up对齐的,这种对齐会导致部分图像是经过padding的,就不是原始模型需要的输入。为了得到希望输出的图片,可以经过将这部分数据拷贝出来,放在一个新的缓冲区输入到模型推理模块,但这样引入了数据拷贝的开销。为了降低这类开销,框架提供了机制,允许输入到模型管家(modelManager)的图像带padding边,模型管家的AIPP模块会根据用户设定的宽高(在模型转换时设置),对图像进行crop,输出满足模型输入要求的图片,送到模型推理,不需要进行数据拷贝,性能得到了较大提高。

如下,假定模型推理需要输入的图像为224*224,而从DVPP的获取的数据是128*16对齐的,即256*224。

分享:

    相关文档

    相关产品