在线服务 部署在线服务时，自定义预测脚本python依赖包出现冲突，导致运行出错 在线服务预测时，如何提高预测速度？ 调整模型后，部署新版本AI应用能否保持原API接口不变？ 在线服务的API接口组成规则是什么？ 在线服务运行中但是预测失败时，如何排查报错是不是模型原因导致的 在

查看更多 →

在线服务 微调后的迭代模型创建在线服务，进行推理，查看预测效果。每类迭代模型，只能同时运行一个在线服务，如果已经存在“运行中”的在线服务，将无法继续创建该类在线服务。 创建在线服务 在左侧菜单栏中选择“智驾模型服务 > 智驾模型管理”。 选择“在线服务”页签，单击“创建在线服务”。

查看更多 →

在线服务 创建在线服务 获取推荐结果 查看在线服务详情 管理在线服务 父主题： 用户指南（旧版）

查看更多 →

在线服务 在线服务用来做线上推荐时的应用，每个服务之间是独立的。即根据不同的离线计算得到的候选集以及相关参数，提供不同的推荐服务。 表1 在线服务参数说明 参数名称 子参数 说明 召回池 “推荐候选集” “添加推荐候选集” 选择表名：添加离线、近线任务或者在线自定义检索召回策略生

查看更多 →

在线服务 新建在线服务 查询在线服务详情 修改在线服务参数 删除在线服务 父主题： API

查看更多 →

在线服务 点击“客服”，可“在线咨询”或拨打电话进行相关问题咨询。 父主题： 客服与帮助

查看更多 →

登录RES管理控制台，在左侧菜单栏中选择“在线服务”，进入服务列表。 在“在线服务”页面，您可以单击目标服务操作列的“编辑”，进入“编辑在线服务”页面。 在线服务配置方法，请参见创建在线服务，配置结束单击“立即修改”。 启动服务 当在线服务创建完成后，用户可以根据业务需求启动服务运行，当服务状态为“运行中”

查看更多 →

在线服务API 获取规格列表 部署服务 预测接口 预测接口（排序） 预测接口（文本标签） 更新服务 查询服务列表 查询服务详情 订阅服务 停止/启动服务 删除服务 查询镜像列表 父主题： API（V1不推荐）

查看更多 →

删除在线服务 功能介绍 删除在线服务实例。 调试 您可以在 API Explorer 中调试该接口。 URI DELETE /v2.0/{project_id}/workspaces/{workspace_id}/resources/{resource_id}/service-instance/{job_id}

查看更多 →

部署在线服务 部署在线服务包括： 已部署为在线服务的初始化。 部署在线服务predictor。 部署批量服务transformer。 部署服务返回服务对象Predictor，其属性包括服务管理章节下的所有功能。 示例代码 在ModelArts notebook平台，Session

查看更多 →

新建在线服务 功能介绍 新建在线服务元数据，新建成功之后可手动发布此服务。 调试 您可以在API Explorer中调试该接口。 URI POST /v2.0/{project_id}/workspaces/{workspace_id}/resources/{resource_id}/service-instance

查看更多 →

离线排序作业名称（在线训练任务需要提供此参数）。 update_interval Integer 更新周期（在线训练任务需要提供此参数）。 optimizer Optimizer object 优化器（在线训练任务需要提供此参数）。 flows Flow object 在线流程（在线训练任务需要提供此参数）。

查看更多 →

管理同步在线服务 查看在线服务详情 查看在线服务的事件 管理在线服务生命周期 修改在线服务配置 在云监控平台查看在线服务性能指标 集成在线服务API至生产环境中应用 父主题： 使用ModelArts Standard部署模型并推理预测

查看更多 →

无误后，单击“完成”。当您通过在线服务列表查看在线服务的状态由“初始化”、“部署中”变更为“运行中”时即完成在线服务的部署。在线服务一般需要运行一段时间，根据您的数据量和资源不同，运行时间将耗时几分钟到几十分钟不等，请您耐心等待。 父主题： 在线服务

查看更多 →

在线服务鉴权 功能介绍 计费工作流在线服务鉴权。 接口约束 无 调试 您可以在API Explorer中调试该接口，支持自动认证鉴权。API Explorer可以自动生成SDK代码示例，并提供SDK代码示例调试功能。 URI POST /v2/{project_id}/workflows/service/auth

查看更多 →

实例数 实例数越大，能够同时处理的请求数量越多。 高级配置 选择盘古-NLP-N4系列模型时显示，配置最大Token长度。 服务名称 在线服务的名称。 描述 在线服务的简要描述。 订阅提醒 勾选订阅提醒，并添加手机号/邮箱，系统将在训练任务完成或重要事件发生时，发送提醒。 表2 部署实例量与推理单元数关系

查看更多 →

修改在线服务参数 功能介绍 修改指定在线服务的元数据内容。 调试 您可以在API Explorer中调试该接口。 URI PUT /v2.0/{project_id}/workspaces/{workspace_id}/resources/{resource_id}/service-instance/{job_id}

查看更多 →

查看在线服务详情 当AI应用部署为在线服务成功后，您可以进入“在线服务”页面，来查看服务详情。 登录ModelArts管理控制台，在左侧菜单栏中选择“模型部署>在线服务”，进入“在线服务”管理页面。 单击目标服务名称，进入服务详情页面。 您可以查看服务的“名称”、“状态”等信息，详情说明请参见表1。

查看更多 →

修改在线服务配置 对于已部署的服务，您可以修改服务的基本信息以匹配业务变化，更换AI应用的版本号，实现服务升级。 您可以通过如下两种方式修改服务的基本信息： 方式一：通过服务管理页面修改服务信息 方式二：通过服务详情页面修改服务信息 前提条件 服务已部署成功，“部署中”的服务不支持修改服务信息进行升级。

查看更多 →

查看在线服务详情 当在线服务创建成功后，您可以进入“在线服务”页面，来查看服务详情。 登录RES管理控制台，在左侧菜单栏中选择“在线服务”，进入“在线服务”管理页面。 您可以在服务列表直接查看服务的“名称”、“状态”、“调用总次数”、“开通状态”和“服务类型”等。 当服务部署成功

查看更多 →

表2 请求Body参数 参数 是否必选 参数类型 描述 status 否 String 服务包状态。 pool_id 是 String 资源池ID。 service_id 否 String 在线服务ID。 workflow_id 否 String Workflow工作流ID。 order

查看更多 →