文档首页/ AI开发平台ModelArts/ 常见问题/ Standard推理部署/ 部署上线/ 在线服务/ 调整模型后,部署新版本AI应用能否保持原API接口不变?
更新时间:2024-09-05 GMT+08:00
分享

调整模型后,部署新版本AI应用能否保持原API接口不变?

ModelArts提供多版本支持和灵活的流量策略,您可以通过使用灰度发布,实现模型版本的平滑过渡升级。修改服务部署新版本模型或者切换模型版本时,原服务预测API不会变化。

调整模型版本的操作可以参考如下的步骤。

前提条件

  • 已存在部署完成的服务。
  • 已完成模型调整,创建AI应用新版本

操作步骤

  1. 登录ModelArts管理控制台,在左侧导航栏中选择“部署上线 > 在线服务”,默认进入“在线服务”列表。
  2. 在部署完成的目标服务中,单击操作列的“修改”,进入“修改服务”页面。
  3. 在选择模型及配置中,单击“增加模型版本进行灰度发布”添加新版本。
    图1 灰度发布
  4. 您可以设置两个版本的流量占比,服务调用请求根据该比例分配。其他设置可参考参数说明。完成设置后,单击下一步。
  5. 确认信息无误后,单击“提交”部署在线服务。

相关文档