更新时间:2022-08-12 GMT+08:00
分享

WK文件配置详解

表1 WK文件配置详解

参数

说明

net_type

  • CNN:不包含LSTM/RNN/ROIPooling/PSROIPooling的任意网络
  • ROI/PSROI:包含ROI Pooling 和PSROI Pooling 的网络
  • Recurrent:包含ROI Pooling 和PSROI Pooling 的网络

Output

  • log_level

    设置是否开启日志文件,以及配置打印的等级,本参数可省略,当省略时,不打印日志文件。

    第一项:打印main 函数流程,cfg 文件等信息

    第二项:打印nnie_mapper 解析到的文件信息,包含image_list、prototxt、内存分配过程

    第三项:打印中间表示信息

    第四项:打印详细信息,有大量文件输出,转化耗时较长,请谨慎使用

  • Instruction_name:文件输出名称

Run Time

  • Batch_num:

    0/1:single(单张)模式。用single模式mapper一个任务只能处理一张图片,内部存储全部为一张图片分配,减少数据调度次数。

    >1:batch(多张)模式。采用batch 模式,在计算FC 时batch_num 张图片同时计算,计算资源利用率高。

Compile

  • Compile_mode

    Low-bandwidth(低带宽模式,默认):通过量化算法使参数与数据位宽最少,使系统所需带宽达到最小,但会有精度损失;

    High-precision(高精度模式):结果精度最好,但是性能会下降;

    User-specify(用户配置模式):需要用户在prototxt 中标明所有使用高精度计算的层。

  • Is_simulation

    网络模型转化类型。

    0:Chip,芯片模式,网络模型转化成在芯片上加载的wk 文件。

    1:Simulation,仿真模式,网络模型转化成在PC 端仿真上加载的wk 文件。

Sparse

  • Sparse_rate

    NNIE 引擎采用了参数压缩技术以减少带宽占用,为了提高压缩率,可通对FC 参数进稀疏处理。用户通过sparse_rate数值指定多少比例的FC 参数稀疏为0,例如配0.5,则FC 参数有50%将被稀疏为0,由于数据变的稀疏,压缩模块会获得更好的压缩率。稀疏值越高,计算FC 时所需参数带宽越低,但精度会有所下降。

ROI Number

  • max_roi_frame_cnt

    包含ROI/PSROI 网络的RPN 阶段输出的候选框最大数目。

    默认值:300。

Recurrent_tmax

  • Recurrent 网络(包含LSTM/RNN 层)每一句话的最大桢数,支持[1, 1024]范围内的配置,减小配置值可以减小临时缓存大小。

Image_type

  • 表示网络实际执行时输入给网络的数据类型,该配置跟image_list相关。

    0:表示网络数据输入为 SVP_BLOB_TYPE_S32(参考《HiSVPAPI 参考》)或者向量的类型(VEC_S32 和SEQ_S32);此时要求image_list配置为feature map 文件

    1:表示网络数据输入为SVP_BLOB_TYPE_U8(普通的灰度图和RGB 图)类型; 此时要求image_list配置是RGB图或者灰度图片的list 文件

    3:网络数据输入为SVP_BLOB_TYPE_YUV420SP类型

    5:网络数据输入为SVP_BLOB_TYPE_YUV422SP类型;当配置为3或者5 时,image_list 配置为RGB 图片的list 文件

Image_list

  • 参照实例文件上传;NNIE mapper 用于数据量化的参考图像list 文件或feature map 文件。该配置跟image_type 相关。NNIE mapper 量化时需要的图片是典型场景图片,建议从网络模型的测试场景随机选择20~50 张作为参考图片进行量化,选择的图像要尽量覆盖模型的各个场景(比如检测人、车的模型,参考图像中必须由人、车,不能仅使用人或者无人无车的图像进行量化)。网络中如果存在多个输入层,则需要配置多个image_list 顶,顺序、个数与prototxt 完全对应。

Norm_type

  • 表示对网络数据输入的预处理方法。注意image_type 配置为0时,norm_type 只能配置为0;image_type 配置为3 或者5 时,网络输入数据为YUV 图像,但是NNIE 硬件会根据RGB_order配置项自动转为RGB 或者BGR 图像,此时norm_type 配置方法跟image_type为1 时一致。

    0:不做任何预处理

    1:mean file,减图像均值

    2:channel mean_value,减通道均值

    3:data_scale,对图像像素值乘以data_scale

    4:mean filewith data_scale,减图像均值后再乘以data_scale

    5:channel mean_value with data_scale,减通道均值后再乘以data_scale

Mean_file

norm_type 为1、4 时,表示均值文件xxx.binaryproto

norm_type 为2、5 时,表示通道均值文件

norm_type 为0、3 时,用户也需要配置mean_file项,但具体内容可以是一个无效路径,比如null;通道均值文件mean.txt 中每一行的浮点数表示对应的通道均值,如单通道只有一个值

相关文档