更新时间:2023-01-28 GMT+08:00

部署上线

部署上线

部署上线操作即将模型部署为在线服务,并且提供在线的测试UI与监控能力。完成模型训练后,可选择准确率理想且训练状态为“运行成功”的版本部署上线。具体操作步骤如下。

  1. “模型训练”页签中,待训练状态变为“运行成功”,单击版本管理区域中的“部署”,开始将模型部署上线为在线服务。
    图1 部署操作
  2. 在弹出的“部署”对话框中,选择资源规格,同时设置自动停止功能,然后单击确定,启动部署。
    • “计算节点规格”:GPU规格性能更佳,CPU规格更实惠。
    • “计算节点个数”:默认为1,且不能修改。
    • “是否自动停止”:启用该参数并设置时间后,服务将在指定时间后自动停止。如果不启用此参数,在线服务将一直运行,同时一直收费,自动停止功能可以帮您避免产生不必要的费用。默认开启自动停止功能,且默认值为“1小时后”

    目前支持设置为“1小时后”“2小时后”“4小时后”“6小时后”“自定义”。如果选择“自定义”的模式,可在右侧输入框中输入1~24范围内的任意整数。

    图2 部署模型
  3. 启动部署上线后,可以在“部署上线”界面查看模型部署上线的状态。

    部署上线将耗费较多时间,请您耐心等待。当“部署上线”页签版本管理区域的状态由“部署中”变更为“运行中”,部署完成。

    在自动学习界面中,仅支持将训练后的模型部署为在线服务,如果需要部署为“批量服务”“边缘服务”,请参见自动学习生成的模型,存储在哪里?支持哪些其他操作?

服务测试

  • 您可以在“部署上线”页面,选择对应的服务类型,例如自动学习物体检测项目默认将服务部署为在线服务,进入“在线服务”页面,单击目标服务“操作”列的“预测”,进行服务测试,测试方法和下方陈述操作步骤一致。具体操作请参见测试服务
  • 您也可以通过调用代码对服务进行测试,根据部署服务类型的不同,具体操作详情参见访问在线服务
  • 下面的测试,是您在自动学习物体检测项目页面将模型部署上线之后进行服务测试的操作步骤。
    1. 模型部署完成后,您可添加图片进行测试。在“自动学习”页面,选择目标项目,进入“部署上线”界面,选择状态为“运行中”的服务版本,在“服务测试”区域单击“上传”,选择本地图片进行测试。
      图3 上传图片
    2. 单击“预测”进行测试,预测完成后,右侧“预测结果”区域输出结果。如模型准确率不满足预期,可在“数据标注”页签中添加图片并进行标注,重新进行模型训练及部署上线。预测结果中的参数说明请参见表1。如果您对模型预测结果满意,可根据界面提示调用接口访问在线服务,操作指导请参见“访问在线服务”。

      目前只支持jpg、jpeg、bmp、png格式的图片。

      图4 预测结果
      表1 预测结果中的参数说明

      参数

      说明

      detection_classes

      每个检测框的标签。

      detection_boxes

      每个检测框的四点坐标(y_min,x_min,y_max,x_max),如图5所示。

      detection_scores

      每个检测框的置信度。

      图5 检测框的四点坐标示意图

      由于“运行中”的在线服务将持续耗费资源,如果不需再使用此在线服务,建议在版本管理区域,单击“停止”,即可停止在线服务的部署,避免产生不必要的费用。如果需要继续使用此服务,可单击“启动”恢复。

      如果您启用了自动停止功能,服务将在指定时间后自动停止,不再产生费用。