文档首页/ AI开发平台ModelArts/ 故障排除/ 推理部署/ 模型管理/ 创建模型成功后,部署服务报错,如何排查代码问题
更新时间:2024-11-22 GMT+08:00
分享

创建模型成功后,部署服务报错,如何排查代码问题

问题现象

创建模型成功后,部署服务失败,如何定位是模型代码编写有问题。

原因分析

用户自定义镜像或者通过基础镜像导入的模型时,用户自己编写了很多自定义的业务逻辑,这些逻辑有问题将会导致服务部署或者预测失败,需要能够排查出哪里有问题。

处理方法

  1. 服务部署失败后,进入服务详情界面,查看服务部署日志,明确服务部署失败原因(用户代码输出需要使用标准输入输出函数,否则输出的内容不会呈现到前端页面日志)。根据日志中提示的报错信息找到对应的代码进行定位。
  2. 如果模型启动失败根本没有日志,则考虑使用推理模型调试功能,具体参见:在开发环境中构建并调试推理镜像

相关文档