更新时间:2024-03-14 GMT+08:00
精度问题处理
设置高精度并重新转换模型
在转换模型时,默认采用的精度模式是fp16,如果转换得到的模型和标杆数据的精度差异比较大,可以使用fp32精度模式提升模型的精度(这块无需全换成fp32,fp32相对于fp16性能较差,所以一般检测出来哪个模型精度有问题时,再尝试是否用fp32)。使用fp32精度模式的配置文件如下:
配置文件:
# config.ini [ascend_context] precision_mode=enforce_fp32 #使用 fp32
其他方式
需要实际分析算子层面的差异,需要联系华为工程师进行具体分析。
父主题: 模型精度调优