更新时间:2024-08-17 GMT+08:00
分享

精度问题处理

设置高精度并重新转换模型

在转换模型时,默认采用的精度模式是fp16,如果转换得到的模型和标杆数据的精度差异比较大,可以使用fp32精度模式提升模型的精度(精度模式并不总是需要使用fp32,因为相对于fp16,fp32的性能较差。因此,通常只在检测到某个模型精度存在问题时,才会考虑是否使用fp32进行尝试)。使用fp32精度模式的配置文件如下:

配置文件:

# config.ini
[ascend_context]
precision_mode=enforce_fp32 #使用 fp32

其他方式

需要实际分析算子层面的差异,需要联系华为工程师进行具体分析。

相关文档