服务部署失败,报错No Module named XXX
问题现象
服务部署失败,报错:No Module named XXX
原因分析
No Module named XXX,表示模型中没有导入对应依赖模块。
处理方法
依赖模块没有导入,需要您在模型推理代码中导入缺失依赖模块。
例如您的模型是Pytorch框架,部署为在线服务时出现告警:ModuleNotFoundError: No module named ‘model_service.tfserving_model_service’,则需要您在推理代码customize_service.py里使用from model_service.pytorch_model_service import PTServingBaseService。示例代码:
import log from model_service.pytorch_model_service import PTServingBaseService