推理服务

支持基于模型包，创建推理服务，直接在线调用服务得到推理结果。

1. 在“模型管理”界面，单击学件模型所在行，对应“操作”列的图标。

   弹出“发布推理服务”对话框。

   请根据实际情况配置如下参数，其余参数保持默认值即可。

   • 版本：推理服务的版本。
   • 是否自动停止：推理服务的运行时间。建议可以设置长点时间，最长支持24小时。
   • 计算节点规格：CPU和GPU资源规格。
   • 计算节点个数：“1”代表单节点运算，“2”代表分布式计算。
   • 描述：描述信息。

2. 单击“确定”，发布在线推理服务。
   单击界面左上方的“模型训练”，从下拉框中选择“推理”，进入推理服务菜单页面，该界面展示已发布的所有推理服务。用户可以对推理服务进行查看详情、授权、启动/停止等一系列操作。

   • ：推理服务发布成功，单击图标可以跳转至推理服务的快速验证界面，用户可在此界面上对当前发布的在线推理服务进行效果验证。
   • ：推理服务发布失败，可重新发布。

3. 等待推理服务发布成功后，单击学件模型所在行，对应“操作”列的图标。

   进入推理服务快速验证界面，如图1所示。

   图1 推理服务快速验证界面
   

4. 验证信息栏默认是有json格式的验证数据。

   示例如下所示：

   {
   	"data3.csv": {
   		"time": {
   			"0": "2018\\/7\\/12 16:28",
   			"1": "2018\\/7\\/12 16:29",
   			"2": "2018\\/7\\/12 16:30",
   			"3": "2018\\/7\\/12 16:31",
   			"4": "2018\\/7\\/12 16:32",
   			"5": "2018\\/7\\/12 16:33",
   			"6": "2018\\/7\\/12 16:34",
   			"7": "2018\\/7\\/12 16:35",
   			"8": "2018\\/7\\/12 16:36",
   			"9": "2018\\/7\\/12 16:37",
   			"10": "2018\\/7\\/12 16:38"
   		},
   		"send_byte": {
   			"0": 0,
   			"1": 0,
   			"2": 0,
   			"3": 0,
   			"4": 0,
   			"5": 0,
   			"6": 0,
   			"7": 0,
   			"8": 0,
   			"9": 0,
   			"10": 0
   		}
   	}
   }

5. 单击界面右上角的“快速验证”图标，调用推理服务，返回推理结果。