# 部署在线服务出现报错No CUDA runtime is found
#### 问题现象
部署在线服务出现报错No CUDA runtime is found，using CUDA_HOME='/usr/local/cuda'。
#### 原因分析
从日志报错信息No CUDA runtime is found分析，是cuda runtime没有找到。
#### 处理方法
建议您按以下步骤排查处理：
1. 确认部署在线服务时是否选择了GP规格。
2. 在customize_service.py中添加一行代码os.system('nvcc -V)查看该镜像的cuda版本（customize_service.py编写指导请见[模型推理代码编写说明](https://support.huaweicloud.com/usermanual-standard-modelarts/inference-modelarts-0057.html)）。
3. 确认该cuda版本与您安装的mmcv版本是否匹配。
   ![](https://support.huaweicloud.com/trouble-modelarts/public_sys-resources/note_3.0-zh-cn.png)
   部署时是否需要使用GP，取决于的模型需要用到CPU还是GP，以及推理脚本如何编写。