更新时间:2021-09-18 GMT+08:00
分享

推理服务

支持基于模型包,创建推理服务,直接在线调用服务得到推理结果。

  1. 在“模型管理”界面,单击学件模型所在行,对应“操作”列的图标。

    弹出“发布推理服务”对话框。

    请根据实际情况配置如下参数,其余参数保持默认值即可。

    • 版本:推理服务的版本。
    • 是否自动停止:推理服务的运行时间。建议可以设置长点时间,最长支持24小时。
    • 计算节点规格:CPU和GPU资源规格。
    • 计算节点个数:“1”代表单节点运算,“2”代表分布式计算。
    • 描述:描述信息。

  1. 单击“确定”,发布在线推理服务。

    单击界面左上方的“模型训练”,从下拉框中选择“推理”,进入推理服务菜单页面,该界面展示已发布的所有推理服务。用户可以对推理服务进行查看详情、授权、启动/停止等一系列操作。
    • :推理服务发布成功,单击图标可以跳转至推理服务的快速验证界面,用户可在此界面上对当前发布的在线推理服务进行效果验证。
    • :推理服务发布失败,可重新发布。

  2. 等待推理服务发布成功后,单击学件模型所在行,对应“操作”列的图标。

    进入推理服务快速验证界面,如图1所示。

    图1 推理服务快速验证界面

  3. 验证信息栏默认是有json格式的验证数据。

    示例如下所示:

    {
    	"data3.csv": {
    		"time": {
    			"0": "2018\\/7\\/12 16:28",
    			"1": "2018\\/7\\/12 16:29",
    			"2": "2018\\/7\\/12 16:30",
    			"3": "2018\\/7\\/12 16:31",
    			"4": "2018\\/7\\/12 16:32",
    			"5": "2018\\/7\\/12 16:33",
    			"6": "2018\\/7\\/12 16:34",
    			"7": "2018\\/7\\/12 16:35",
    			"8": "2018\\/7\\/12 16:36",
    			"9": "2018\\/7\\/12 16:37",
    			"10": "2018\\/7\\/12 16:38"
    		},
    		"send_byte": {
    			"0": 0,
    			"1": 0,
    			"2": 0,
    			"3": 0,
    			"4": 0,
    			"5": 0,
    			"6": 0,
    			"7": 0,
    			"8": 0,
    			"9": 0,
    			"10": 0
    		}
    	}
    }

  4. 单击界面右上角的“快速验证”图标,调用推理服务,返回推理结果。
分享:

    相关文档

    相关产品

close