更新时间:2021-03-18 GMT+08:00
分享

AIPP对模型输入大小的校验说明

如果有配置AIPP,无论静态AIPP还是动态AIPP,最终生成离线模型的输入大小(即input_size)均会被Crop、Padding等操作影响。假设模型的Batch数量为N(如果为动态batch场景,N为最大档位数的取值),模型输入图片的宽为src_image_size_w,高为src_image_size_h,最后模型输入的Size的计算公式如表1所示。

表1 input_size校验公式

input_format

input_size

YUV400_U8

N * src_image_size_w * src_image_size_h * 1

YUV420SP_U8

N * src_image_size_w * src_image_size_h * 1.5

XRGB8888_U8

N * src_image_size_w * src_image_size_h * 4

RGB888_U8

N * src_image_size_w * src_image_size_h * 3

如果为动态AIPP,模型转换时,ATC会为动态AIPP会新增一个模型输入为执行阶段传入AIPP参数,该场景下新增输入节点大小计算公式为:

sizeof(kAippDynamicPara) - sizeof(kAippDynamicBatchPara) + batch_count * sizeof(kAippDynamicBatchPara)
分享:

    相关文档

    相关产品

close