精度问题处理
设置高精度并重新转换模型
在转换模型时,默认采用的精度模式是fp16,如果转换得到的模型和标杆数据的精度差异比较大,可以使用fp32精度模式提升模型的精度(精度模式并不总是需要使用fp32,因为相对于fp16,fp32的性能较差。因此,通常只在检测到某个模型精度存在问题时,才会考虑是否使用fp32进行尝试)。使用fp32精度模式的配置文件如下:
配置文件:
# config.ini [ascend_context] precision_mode=enforce_fp32 #使用 fp32
其他方式
需要实际分析算子层面的差异,需要联系华为工程师进行具体分析。