设置高精度并重新转换模型

在转换模型时，默认采用的精度模式是fp16，如果转换得到的模型和标杆数据的精度差异比较大，可以使用fp32精度模式提升模型的精度（这块无需全换成fp32，fp32相对于fp16性能较差，所以一般检测出来哪个模型精度有问题时，再尝试是否用fp32）。使用fp32精度模式的配置文件如下：

配置文件：

# config.ini
[ascend_context]
precision_mode=enforce_fp32 #使用 fp32

其它方式

需要实际分析算子层面的差异，需要联系华为工程师进行具体分析。

父主题： 模型精度调优

同意关联代理商云淘科技，购买华为云产品更优惠（QQ 78315851）

内容没看懂？ 不太想学习？想快速解决？ 有偿解决： 联系专家