文档首页> Atlas 500应用> 模型转换> AIPP配置> 色域转换配置说明
更新时间:2021-03-18 GMT+08:00
分享

色域转换配置说明

一旦确认了AIPP处理前与AIPP处理后的图片格式(即模型输入的图片格式与模型训练阶段的图片格式),即可确定色域转换相关的参数值(matrix_r*c*配置项的值是固定的,不需要调整),配置可参考如下内容。

在AIPP处理前,针对模型输入的图片或视频(各颜色编码方式,如YUV420SP_U8、XRGB8888_U8、RGB888_U8、YUV400_U8),当前给出以下两种典型场景下的色域转换配置:

  • 对于JPEG图像文件格式(如后缀为jpg、jpeg、JPG、JPEG的图像文件),可以选择以下表格中“JPEG”列的色域转换配置。
  • 对于视频解码后的数据,可以根据不同的彩色视频数字化标准(如BT-601、BT-709等)配置色域转换参数。

YUV420SP_U8转YVU444SP_U8

aipp_op {
    aipp_mode: static
    input_format : YUV420SP_U8
    csc_switch : false
    rbuv_swap_switch : true
}

YUV420SP_U8转RGB888_U8

表1 YUV420SP_U8转RGB888_U8

JPEG

BT-601NARROW

BT-709NARROW

aipp_op {
    aipp_mode: static
    input_format : YUV420SP_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 256
    matrix_r0c1 : 0
    matrix_r0c2 : 359
    matrix_r1c0 : 256
    matrix_r1c1 : -88
    matrix_r1c2 : -183
    matrix_r2c0 : 256
    matrix_r2c1 : 454
    matrix_r2c2 : 0
    input_bias_0 : 0
    input_bias_1 : 128
    input_bias_2 : 128
}
aipp_op {
    aipp_mode: static
    input_format : YUV420SP_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 298
    matrix_r0c1 : 0
    matrix_r0c2 : 409
    matrix_r1c0 : 298
    matrix_r1c1 : -100
    matrix_r1c2 : -208
    matrix_r2c0 : 298
    matrix_r2c1 : 516
    matrix_r2c2 : 0
    input_bias_0 : 16
    input_bias_1 : 128
    input_bias_2 : 128
}
aipp_op {
    aipp_mode: static
    input_format : YUV420SP_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 298
    matrix_r0c1 : 0
    matrix_r0c2 : 459
    matrix_r1c0 : 298
    matrix_r1c1 : -55
    matrix_r1c2 : -136
    matrix_r2c0 : 298
    matrix_r2c1 : 541
    matrix_r2c2 : 0
    input_bias_0 : 16
    input_bias_1 : 128
    input_bias_2 : 128
}

YUV420SP_U8转BGR888_U8

表2 YUV420SP_U8转BGR888_U8

JPEG

BT-601NARROW

BT-709NARROW

aipp_op {
    aipp_mode: static
    input_format : YUV420SP_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 256
    matrix_r0c1 : 454
    matrix_r0c2 : 0
    matrix_r1c0 : 256
    matrix_r1c1 : -88
    matrix_r1c2 : -183
    matrix_r2c0 : 256
    matrix_r2c1 : 0
    matrix_r2c2 : 359
    input_bias_0 : 0
    input_bias_1 : 128
    input_bias_2 : 128
}
aipp_op {
    aipp_mode: static
    input_format : YUV420SP_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 298
    matrix_r0c1 : 516
    matrix_r0c2 : 0
    matrix_r1c0 : 298
    matrix_r1c1 : -100
    matrix_r1c2 : -208
    matrix_r2c0 : 298
    matrix_r2c1 : 0
    matrix_r2c2 : 409
    input_bias_0 : 16
    input_bias_1 : 128
    input_bias_2 : 128
}
aipp_op {
    aipp_mode: static
    input_format : YUV420SP_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 298
    matrix_r0c1 : 541
    matrix_r0c2 : 0
    matrix_r1c0 : 298
    matrix_r1c1 : -55
    matrix_r1c2 : -136
    matrix_r2c0 : 298
    matrix_r2c1 : 0
    matrix_r2c2 : 459
    input_bias_0 : 16
    input_bias_1 : 128
    input_bias_2 : 128
}

YUV420SP_U8转GRAY

aipp_op {
    aipp_mode: static
    input_format : YUV420SP_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 256
    matrix_r0c1 : 0
    matrix_r0c2 : 0
    matrix_r1c0 : 0
    matrix_r1c1 : 0
    matrix_r1c2 : 0
    matrix_r2c0 : 0
    matrix_r2c1 : 0
    matrix_r2c2 : 0
    input_bias_0 : 0
    input_bias_1 : 0
    input_bias_2 : 0
}

XRGB8888_U8转YUV444SP_U8

表3 XRGB8888_U8转YUV444SP_U8

JPEG

BT-601NARROW

BT-709NARROW

aipp_op {
    aipp_mode: static
    input_format : XRGB8888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 77
    matrix_r0c1 : 150
    matrix_r0c2 : 29
    matrix_r1c0 : -43
    matrix_r1c1 : -85
    matrix_r1c2 : 128
    matrix_r2c0 : 128
    matrix_r2c1 : -107
    matrix_r2c2 : -21
    output_bias_0 : 0
    output_bias_1 : 128
    output_bias_2 : 128
}
aipp_op {
    aipp_mode: static
    input_format : XRGB8888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 66
    matrix_r0c1 : 129
    matrix_r0c2 : 25
    matrix_r1c0 : -38
    matrix_r1c1 : -74
    matrix_r1c2 : 112
    matrix_r2c0 : 112
    matrix_r2c1 : -94
    matrix_r2c2 : -18
    output_bias_0 : 16
    output_bias_1 : 128
    output_bias_2 : 128
}
aipp_op {
    aipp_mode: static
    input_format : XRGB8888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 47
    matrix_r0c1 : 157
    matrix_r0c2 : 16
    matrix_r1c0 : -26
    matrix_r1c1 : -87
    matrix_r1c2 : 112
    matrix_r2c0 : 112
    matrix_r2c1 : -102
    matrix_r2c2 : -10
    output_bias_0 : 16
    output_bias_1 : 128
    output_bias_2 : 128
}

XRGB8888_U8转YVU444SP_U8

表4 XRGB8888_U8转YVU444SP_U8

JPEG

BT-601NARROW

BT-709NARROW

aipp_op {
    aipp_mode: static
    input_format : XRGB8888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 77
    matrix_r0c1 : 150
    matrix_r0c2 : 29
    matrix_r1c0 : 128
    matrix_r1c1 : -107
    matrix_r1c2 : -21
    matrix_r2c0 : -43
    matrix_r2c1 : -85
    matrix_r2c2 : 128
    output_bias_0 : 0
    output_bias_1 : 128
    output_bias_2 : 128
}
aipp_op {
    aipp_mode: static
    input_format : XRGB8888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 66
    matrix_r0c1 : 129
    matrix_r0c2 : 25
    matrix_r1c0 : 112
    matrix_r1c1 : -94
    matrix_r1c2 : -18
    matrix_r2c0 : -38
    matrix_r2c1 : -74
    matrix_r2c2 : 112
    output_bias_0 : 16
    output_bias_1 : 128
    output_bias_2 : 128
}
aipp_op {
    aipp_mode: static
    input_format : XRGB8888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 47
    matrix_r0c1 : 157
    matrix_r0c2 : 16
    matrix_r1c0 : 112
    matrix_r1c1 : -102
    matrix_r1c2 : -10
    matrix_r2c0 : -26
    matrix_r2c1 : -87
    matrix_r2c2 : 112
    output_bias_0 : 16
    output_bias_1 : 128
    output_bias_2 : 128
}

XRGB8888_U8转GRAY

aipp_op {
    aipp_mode: static
    input_format : XRGB8888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 76
    matrix_r0c1 : 150
    matrix_r0c2 : 30
    matrix_r1c0 : 0
    matrix_r1c1 : 0
    matrix_r1c2 : 0
    matrix_r2c0 : 0
    matrix_r2c1 : 0
    matrix_r2c2 : 0
    output_bias_0 : 0
    output_bias_1 : 0
    output_bias_2 : 0
}

RGB888_U8转BGR888_U8

aipp_op {
    aipp_mode: static
    input_format : RGB888_U8
    csc_switch : false
    rbuv_swap_switch : true
}

RGB888_U8转YUV444SP_U8

表5 RGB888_U8转YUV444SP_U8

JPEG

BT-601NARROW

BT-709NARROW

aipp_op {
    aipp_mode: static
    input_format : RGB888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 77
    matrix_r0c1 : 150
    matrix_r0c2 : 29
    matrix_r1c0 : -43
    matrix_r1c1 : -85
    matrix_r1c2 : 128
    matrix_r2c0 : 128
    matrix_r2c1 : -107
    matrix_r2c2 : -21
    output_bias_0 : 0
    output_bias_1 : 128
    output_bias_2 : 128
}
aipp_op {
    aipp_mode: static
    input_format : RGB888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 66
    matrix_r0c1 : 129
    matrix_r0c2 : 25
    matrix_r1c0 : -38
    matrix_r1c1 : -74
    matrix_r1c2 : 112
    matrix_r2c0 : 112
    matrix_r2c1 : -94
    matrix_r2c2 : -18
    output_bias_0 : 16
    output_bias_1 : 128
    output_bias_2 : 128
}
aipp_op {
    aipp_mode: static
    input_format : RGB888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 47
    matrix_r0c1 : 157
    matrix_r0c2 : 16
    matrix_r1c0 : -26
    matrix_r1c1 : -87
    matrix_r1c2 : 112
    matrix_r2c0 : 112
    matrix_r2c1 : -102
    matrix_r2c2 : -10
    output_bias_0 : 16
    output_bias_1 : 128
    output_bias_2 : 128
}

RGB888_U8转YVU444SP_U8

表6 RGB888_U8转YVU444SP_U8

JPEG

BT-601NARROW

BT-709NARROW

aipp_op {
    aipp_mode: static
    input_format : RGB888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 77
    matrix_r0c1 : 150
    matrix_r0c2 : 29
    matrix_r1c0 : 128
    matrix_r1c1 : -107
    matrix_r1c2 : -21
    matrix_r2c0 : -43
    matrix_r2c1 : -85
    matrix_r2c2 : 128
    output_bias_0 : 0
    output_bias_1 : 128
    output_bias_2 : 128
}
aipp_op {
    aipp_mode: static
    input_format : RGB888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 66
    matrix_r0c1 : 129
    matrix_r0c2 : 25
    matrix_r1c0 : 112
    matrix_r1c1 : -94
    matrix_r1c2 : -18
    matrix_r2c0 : -38
    matrix_r2c1 : -74
    matrix_r2c2 : 112
    output_bias_0 : 16
    output_bias_1 : 128
    output_bias_2 : 128
}
aipp_op {
    aipp_mode: static
    input_format : RGB888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 47
    matrix_r0c1 : 157
    matrix_r0c2 : 16
    matrix_r1c0 : 112
    matrix_r1c1 : -102
    matrix_r1c2 : -10
    matrix_r2c0 : -26
    matrix_r2c1 : -87
    matrix_r2c2 : 112
    output_bias_0 : 16
    output_bias_1 : 128
    output_bias_2 : 128
}

RGB888_U8转GRAY

aipp_op {
    aipp_mode: static
    input_format : RGB888_U8
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 76
    matrix_r0c1 : 150
    matrix_r0c2 : 30
    matrix_r1c0 : 0
    matrix_r1c1 : 0
    matrix_r1c2 : 0
    matrix_r2c0 : 0
    matrix_r2c1 : 0
    matrix_r2c2 : 0
    output_bias_0 : 0
    output_bias_1 : 0
    output_bias_2 : 0
}
分享:

    相关文档

    相关产品