更新时间:2024-03-14 GMT+08:00
分享

精度问题处理

设置高精度并重新转换模型

在转换模型时,默认采用的精度模式是fp16,如果转换得到的模型和标杆数据的精度差异比较大,可以使用fp32精度模式提升模型的精度(这块无需全换成fp32,fp32相对于fp16性能较差,所以一般检测出来哪个模型精度有问题时,再尝试是否用fp32)。使用fp32精度模式的配置文件如下:

配置文件:

# config.ini
[ascend_context]
precision_mode=enforce_fp32 #使用 fp32

其他方式

需要实际分析算子层面的差异,需要联系华为工程师进行具体分析。

相关文档