更新时间:2024-09-05 GMT+08:00
分享

在线服务和批量服务有什么区别?

  • 在线服务

    将模型部署为一个Web服务,您可以通过管理控制台或者API接口访问在线服务。

  • 批量服务

    批量服务可对批量数据进行推理,完成数据处理后自动停止。

批量服务一次性推理批量数据,处理完服务结束。在线服务提供API接口,供用户调用推理。

相关文档