修改批量服务配置
对于已部署的服务,您可以修改服务的基本信息以匹配业务变化,更换AI应用的版本号,实现服务升级。
您可以通过如下两种方式修改服务的基本信息:
前提条件
服务已部署成功,“部署中”的服务不支持修改服务信息进行升级。
约束限制
- 服务升级关系着业务实现,不当的升级操作会导致升级期间业务中断的情况,请谨慎操作。
- ModelArts支持部分场景下在线服务进行无损滚动升级。按要求进行升级前准备,做好验证,即可实现业务不中断的无损升级。
表1 支持无损滚动升级的场景 创建AI应用的元模型来源
服务使用的是公共资源池
服务使用的是专属资源池
从训练中选择元模型
不支持
不支持
从容器镜像中选择元模型
不支持
支持,创建AI应用的自定义镜像需要满足创建AI应用的自定义镜像规范。
从OBS中选择元模型
不支持
不支持
方式一:通过服务管理页面修改服务信息
- 登录ModelArts管理控制台,在左侧菜单栏中选择“模型部署”,进入目标服务类型管理页面。
- 在服务列表中,单击目标服务操作列的“修改”,修改服务基本信息,然后根据提示提交修改任务。
当修改了服务的某些参数配置时,系统会自动重启服务使修改生效。在提交修改服务任务时,如果涉及重启,会有弹窗提醒。批量服务参数说明请参见将模型部署为批量推理服务。
方式二:通过服务详情页面修改服务信息
- 登录ModelArts管理控制台,在左侧菜单栏中选择“模型部署”,进入目标服务类型管理页面。
- 单击目标服务名称,进入服务详情页面。
- 您可以通过单击页面右上角“修改”,修改服务基本信息,然后根据提示提交修改任务。
当修改了服务的某些参数配置时,系统会自动重启服务使修改生效。在提交修改服务任务时,如果涉及重启,会有弹窗提醒。批量服务参数说明请参见将模型部署为批量推理服务。