文档首页> AI开发平台ModelArts> 模型封装> 将AI应用发布到ModelArts模型管理
更新时间:2024-04-03 GMT+08:00
分享

将AI应用发布到ModelArts模型管理

AI应用开发并调试完成后,开发者可以将AI应用服务到ModelArts AI应用管理模块,然后在ModelArts的推理平台进行应用的生产部署。发布AI应用包含了应用打包、构建镜像和发布这三个步骤。

打包AI应用

鼠标右键工程列表中当前工程,单击“Package”将会打包当前工程,生成该工程的rpm包。

构建镜像

将AI应用打好的rpm包和基础镜像打成新的应用镜像,用于部署。生产部署时,Dockerfile中配置的基础镜像需要选择runtime镜像。

鼠标右键工程列表中的当前工程,单击“Build Image”,输入镜像名称、镜像版本、OBS地址。

图1 构建镜像

镜像构建首次执行大约耗时5~8min,执行成功后镜像将被推送到华为云SWR服务的组织中,SWR地址会打印在terminal控制台。命令执行结束后,镜像构建的日志会在下载至工程log目录下docker-build.log文件中,可通过日志查看构建过程信息。

发布和部署AI应用

  1. 发布AI应用

    鼠标右键工程列表中当前工程,单击“Public”,输入应用名称、应用版本、请求方式以及镜像地址。单击高级选项可以配置更加丰富的选项。

    图2 发布AI应用
  2. 部署AI应用

    AI应用发布成功后,进入“部署上线>在线服务”模块进行部署操作,部署时选择发布的AI应用进行部署即可。控制台上提供了比开发环境的命令行更为丰富的部署选项,例如服务流量限制、服务自动停止等,用户可以根据需要进行配置,具体可参考部署为在线服务

分享:

    相关文档

    相关产品