更新时间:2024-06-15 GMT+08:00
分享

Step3 在Notebook中变更镜像并调试

使用制作完成的自定义镜像进行推理服务调试,调试成功后再导入到ModelArts的AI应用中并部署为在线服务。

  1. 登录ModelArts控制台,在左侧导航栏中选择“开发环境 > Notebook”,进入“Notebook”管理页面。停止在Step1 在Notebook中构建一个新镜像中创建的Notebook。
  2. 在Notebook对应操作列,单击“更多 > 变更镜像”,打开“变更镜像”弹出框,变更镜像选择“自定义镜像”,将当前镜像变更为Step2 构建成功的镜像注册到镜像管理模块注册的镜像,如图1所示。
    图1 变更镜像
  3. 启动变更后的Notebook,并打开。进入Terminal运行界面,在工作目录,运行启动脚本run.sh,并预测模型。基础镜像中默认提供了run.sh作为启动脚本。
    图2 运行启动脚本
  4. 上传一张预测图片(手写数字图片)到Notbook中。
    图3 手写数字图片
    图4 上传预测图片
  5. 重新打开一个新的Terminal终端,执行如下命令进行预测。
    curl -kv -F 'images=@/home/ma-user/work/test.png' -X POST http://127.0.0.1:8080/
    图5 预测

    在调试过程中,如果有修改模型文件或者推理脚本文件,需要重启run.sh脚本。执行如下命令先停止nginx服务,再运行run.sh脚本。

    #查询nginx进程
    ps -ef |grep nginx 
    #关闭所有nginx相关进程
    kill -9 {进程ID}  
    #运行run.sh脚本
    sh run.sh

    也可以执行pkill nginx命令直接关闭所有nginx进程。

    #关闭所有nginx进程
    pkill nginx
    #运行run.sh脚本
    sh run.sh
    图6 重启run.sh脚本
分享:

    相关文档

    相关产品