更新时间:2021-03-18 GMT+08:00
分享

量化前提

模型准备

模型小型化工具的安装用户将需要量化的Caffe模型文件和权重文件上传到Linux服务器任意目录下。

本手册以sample包中自带的分类网络模型ResNet-50为例进行说明。

数据集准备

使用模型小型化工具对模型完成量化后,需要对模型进行推理,以测试量化数据的精度。推理过程中需要使用和模型相匹配的数据集。

模型小型化工具的安装用户将和模型相匹配的数据集上传到Linux服务器任意目录下,本示例以sample包中自带的ResNet-50网络模型对应的images数据集为例进行说明。

校准集准备

校准集用来产生量化因子,保证精度。

计算量化参数的过程被称为“校准(calibration)”。校准过程需要使用一部分测试图片来针对性计算量化参数,使用一个或多个batch对量化后的网络模型进行推理即可完成校准。为了保证量化精度,校准集与测试精度的数据集来源一致。

模型小型化工具的安装用户将校准集文件上传到Linux服务器任意目录下。

分享:

    相关文档

    相关产品

close