更新时间:2024-06-15 GMT+08:00
Step3 在Notebook中变更镜像并调试
使用制作完成的自定义镜像进行推理服务调试,调试成功后再导入到ModelArts的AI应用中并部署为在线服务。
- 登录ModelArts控制台,在左侧导航栏中选择“开发环境 > Notebook”,进入“Notebook”管理页面。停止在Step1 在Notebook中构建一个新镜像中创建的Notebook。
- 在Notebook对应操作列,单击“更多 > 变更镜像”,打开“变更镜像”弹出框,变更镜像选择“自定义镜像”,将当前镜像变更为Step2 构建成功的镜像注册到镜像管理模块注册的镜像,如图1所示。
- 启动变更后的Notebook,并打开。进入Terminal运行界面,在工作目录,运行启动脚本run.sh,并预测模型。基础镜像中默认提供了run.sh作为启动脚本。
图2 运行启动脚本
- 上传一张预测图片(手写数字图片)到Notbook中。
图3 手写数字图片
图4 上传预测图片
- 重新打开一个新的Terminal终端,执行如下命令进行预测。
curl -kv -F 'images=@/home/ma-user/work/test.png' -X POST http://127.0.0.1:8080/
图5 预测
在调试过程中,如果有修改模型文件或者推理脚本文件,需要重启run.sh脚本。执行如下命令先停止nginx服务,再运行run.sh脚本。
#查询nginx进程 ps -ef |grep nginx #关闭所有nginx相关进程 kill -9 {进程ID} #运行run.sh脚本 sh run.sh
也可以执行pkill nginx命令直接关闭所有nginx进程。
#关闭所有nginx进程 pkill nginx #运行run.sh脚本 sh run.sh
图6 重启run.sh脚本
父主题: 在开发环境中构建并调试推理镜像