更新时间:2021-03-18 GMT+08:00
分享

AIModelManager::Process

计算接口。单模型推理时,process的缓冲队列长度限制为2048。推理队列长度超过2048,将返回失败。

函数格式

virtual AIStatus AIModelManager::Process(AIContext &context, const std::vector<std::shared_ptr<IAITensor>> &in_data, std::vector<std::shared_ptr<IAITensor>> &out_data, uint32_t timeout);

参数说明

参数

说明

取值范围

context

context运行时上下文信息,包含engine运行时的一些可变参数配置。

关于AIContext数据类型的定义,请参见AIContext

-

in_data

模型输入tensor列表。

关于IAITensor数据类型的定义,请参见IAITensor

-

out_data

模型输出tensor列表。

关于IAITensor数据类型的定义,请参见IAITensor

-

timeout

计算超时时间,预留参数,默认值为0,配置无效。

-

返回值

SUCCESS初始化成功/FAILED初始化失败。

分享:

    相关文档

    相关产品