文档首页 > > 推理场景> 开发辅助工具指南> 昇腾模型压缩工具使用指南(Caffe)> 基于retrain的量化> 量化配置>

参数调优说明

参数调优说明

分享
更新时间:2021/02/04 GMT+08:00

按照config.json文件中的默认配置进行量化,若量化后的推理精度不满足要求,则按照如下步骤调整量化配置文件中的参数。

  1. 执行amct_caffe_sample.tar.gz包中的量化脚本,根据create_quant_retrain_config接口生成的默认配置进行量化。
  2. 若根据1中的默认配置进行量化后,精度满足要求,则调参结束,否则进行3
  3. 手动调整量化配置文件,在该文件中增加fixed_min,clip_max,clip_min参数:
    • fixed_min,如果选择此项,并且网络模型量化层的前一层是relu层,则该参数需要手动设置为true,如果为非relu层,则要手动设置为false。
    • clip_max和clip_min的值根据不同层feature map的数据分布找到最大值max和最小值min,clip_max推荐取值范围0.3*max~1.7*max,clip_min推荐取值范围0.3*min~1.7*min,计算指标量化反量化后的均方误差,根据指标选择最好的clip_max和clip_min。

    修改后的量化配置文件样例如下:

    {
        "version":1,
        "layername1":{
            "retrain_enable":true,
            "retrain_data_config":{
                "algo":"ulq_quantize",
                "clip_max":3.0,
                "clip_min":-3.0,
                "fixed_min":true
            },
            "retrain_weight_config":{
                "algo":"arq_retrain",
                "channel_wise":true
            }
        },
        "layername2":{
            "retrain_enable":true,
            "retrain_data_config":{
                "algo":"ulq_quantize",
                "clip_max":3.0,
                "clip_min":-3.0,
                "fixed_min":true
            },
            "retrain_weight_config":{
                "algo":"arq_retrain",
                "channel_wise":true
            }
        }
    }
  4. 完成配置后,精度满足要求则调参结束;否则表明重训练对精度影响很大,不能进行重训练,去除重训练配置。
分享:

    相关文档

    相关产品

文档是否有解决您的问题?

提交成功!非常感谢您的反馈,我们会继续努力做到更好!
反馈提交失败,请稍后再试!

*必选

请至少选择或填写一项反馈信息

字符长度不能超过200

提交反馈 取消

如您有其它疑问,您也可以通过华为云社区论坛频道来与我们联系探讨

智能客服提问云社区提问