更新时间:2024-08-12 GMT+08:00
分享

迁移效果校验

在pipeline适配完成后,需要验证适配后的效果是否满足要求,通过对比原始onnx pipeline的最终输出结果确认迁移效果。如果精度和性能都没有问题,则代表迁移完成。

对比图片生成效果

在CPU上推理onnx,将原始onnx和适配完成的MindSpore Lite pipeline输出的结果图片进行对比,在这里保证输入图片及文本提示词一致。如果差异较为明显可以进行模型精度调优

确认性能是否满足要求

在推理代码开始结尾处加入时间记录,并打印出推理执行耗时。根据用户需求判断性能是否满足要求,如果不满足可以进行性能调优

import time
start_time = time.time()
# 推理代码
end_time = time.time()
print(f"infer time {end_time - start_time}")

相关文档