更新时间:2024-08-17 GMT+08:00
分享

单模型性能测试工具Mindspore lite benchmark

在模型精度对齐后,针对Stable Diffusion模型性能调优,可以通过AOE工具进行自助性能调优,进一步可以通过profiling工具对于性能瓶颈进行分析,并针对性的做一些调优操作。

可以直接使用benchmark命令测试mindir模型性能,用来对比调优前后性能是否有所提升。

# shell
cd /home_host/work
benchmark --modelFile=diffusers/scripts/mindir_models/text_encoder.mindir --device=Ascend

上述命令中:modelFile指定生成的mindir模型文件;device指定运行推理的设备。其他用法参考benchmark文档

测试结果如下所示:

图1 测试结果

相关文档