更新时间:2021-03-18 GMT+08:00
分享

离线模型推理

Ascend 310芯片有利于加速Caffe和Tensorflow框架的推理。用户在完成训练后,需要先将训练后的模型转换成Ascend 310支持的模型文件(om文件),再编写业务代码,然后调用Matrix框架提供的接口完成业务功能。

Matrix框架将AIPP(Ai Preprocess)和模型推理功能封装至一个模块内, 用户调用推理接口后,Matrix框架会先调用AIPP完成输入图片的预处理,再将预处理后的图片输入到模型推理模块内,最后返回推理后的结果。

分享:

    相关文档

    相关产品

关闭导读