更新时间:2024-11-21 GMT+08:00
分享

修改在线服务配置

对于已部署的服务,您可以修改服务的基本信息以匹配业务变化,更换模型的版本号,实现服务升级。

您可以通过如下两种方式修改服务的基本信息:

方式一:通过服务管理页面修改服务信息

方式二:通过服务详情页面修改服务信息

前提条件

服务已部署成功,“部署中”的服务不支持修改服务信息进行升级。

约束限制

  • 服务升级关系着业务实现,不当的升级操作会导致升级期间业务中断的情况,请谨慎操作。
  • ModelArts支持部分场景下在线服务进行无损滚动升级。按要求进行升级前准备,做好验证,即可实现业务不中断的无损升级。
    表1 支持无损滚动升级的场景

    创建模型的元模型来源

    服务使用的是公共资源池

    服务使用的是专属资源池

    从训练中选择元模型

    不支持

    不支持

    从容器镜像中选择元模型

    不支持

    支持,创建模型的自定义镜像需要满足创建模型的自定义镜像规范

    从OBS中选择元模型

    不支持

    不支持

方式一:通过服务管理页面修改服务信息

  1. 登录ModelArts管理控制台,在左侧菜单栏中选择“模型部署”,进入目标服务类型管理页面。
  2. 在服务列表中,单击目标服务操作列的“修改”,修改服务基本信息,然后根据提示提交修改任务。

    当修改了服务的某些参数配置时,系统会自动重启服务使修改生效。在提交修改服务任务时,如果涉及重启,会有弹窗提醒。

    在线服务参数说明请参见部署模型为在线服务。修改在线服务还需要配置“最大无效实例数”设置并行升级的最大节点数,升级阶段节点无效。

方式二:通过服务详情页面修改服务信息

  1. 登录ModelArts管理控制台,在左侧菜单栏中选择“模型部署”,进入目标服务类型管理页面。
  2. 单击目标服务名称,进入服务详情页面。
  3. 您可以通过单击页面右上角“修改”,修改服务基本信息,然后根据提示提交修改任务。

    当修改了服务的某些参数配置时,系统会自动重启服务使修改生效。在提交修改服务任务时,如果涉及重启,会有弹窗提醒。

    在线服务参数说明请参见部署模型为在线服务。修改在线服务还需要配置“最大无效实例数”设置并行升级的最大节点数,升级阶段节点无效。

相关文档