# 使用AI助手在线部署推理服务
在AI模型开发过程中，开发者经常需要将训练好的模型快速部署为在线服务，以供应用程序调用。然而，传统的部署方式往往需要编写复杂的代码和配置，这不仅增加了开发者的负担，也延长了模型上线的时间。如何简化这一过程，提高模型部署的效率？
本文以OpenClaw为例（其他AI助手使用ModelArts Skill方式相同），介绍如何在ModelArts Notebook中使用ModelArts Skill。通过使用ModelArts Skill，开发者可以快速部署在线推理服务，极大地简化了部署流程，提高了模型上线的速度。
- 使用OpenClaw图形化/对话式操作，无需手动编写复杂配置。
- 自动选择费用最低配置。
- 支持公共资源池部署推理服务。
- 完整的错误排查指南。
![](https://support.huaweicloud.com/bestpractice-modelarts/public_sys-resources/warning_3.0-zh-cn.png)
Notebook是容器运行时环境，运行环境会在关机时被清理。请通过保存镜像及时保留npm install、apt-get install、yum install、pip install和OpenClaw安装后的配置对话等，以避免Notebook运行环境中的数据或对话session丢失。关于如何保存镜像，请参见[保存镜像](https://support.huaweicloud.com/devtool-modelarts/devtool-modelarts_0008.html)。
#### 约束限制
Notebook OpenClaw功能仅支持"华北-北京四"、"西南-贵阳一"、"华北-乌兰察布一"、"华东-上海一"和"华南-广州"区域。
#### 前提条件
已在Notebook中安装配置AI助手（如OpenClaw）。
- OpenClaw：[在Notebook中安装配置OpenClaw](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_10_0038.html)
- Hermes：[在Notebook中安装配置Hermes](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_00018.html)
- OpenCode：[在Notebook中安装配置OpenCode](https://support.huaweicloud.com/bestpractice-modelarts/modelarts_20_00022.html)
 
#### 计费说明
- 在ModelArts进行服务部署时，会产生计算资源和存储资源的累计值计费。旧版推理部署计费请参见[推理部署计费项](https://support.huaweicloud.com/price-modelarts/price-modelarts-0013.html)；新版推理部署计费请参见[推理部署（新版）计费项](https://support.huaweicloud.com/price-modelarts/inference2.0-modelarts-0074.html)。
- OpenClaw本身不收费，但调用大模型API会产生费用。具体计费方式取决于您选择的API Provider。
 
#### 创建推理服务
1. 登录[ModelArts管理控制台](https://console.huaweicloud.com/modelarts/)，在左侧导航栏按需选择以下操作。
   - 新版控制台：选择"模型开发与训练 \> Notebook"，进入"Notebook"页面。
   
   - 旧版控制台：选择"开发空间 \> Notebook"，进入"Notebook"页面。
    
2. 在"状态"为"运行中"的Notebook实例的操作列，单击"接入环境"，在"接入方式"对话框的"WebIDE"页签，单击"JupyterLab 接入"右侧的"接入"。
3. 在"ModelArts Launcher"页面的"AI Agent"区域，单击"OpenClaw"，打开OpenClaw。
4. 在OpenClaw左侧导航栏，单击"聊天"，输入创建推理服务的语句。示例如下：
   ```
   请帮我在公共池部署一个推理在线服务
   ```
   图1创建推理服务   
   ![](https://support.huaweicloud.com/bestpractice-modelarts/figure/zh-cn_image_0000002635781390.png "点击放大")
   图2推理服务创建成功   
   ![](https://support.huaweicloud.com/bestpractice-modelarts/figure/zh-cn_image_0000002665900597.png) 
 
#### 查看执行结果
您可以通过OpenClaw或者[ModelArts管理控制台](https://console.huaweicloud.com/modelarts/)的"在线服务"页面查看推理服务的运行状态。
图3查看OpenClaw执行结果   
![](https://support.huaweicloud.com/bestpractice-modelarts/figure/zh-cn_image_0000002665940523.png "点击放大")
#### 常见问题
| 问题                       | **原因**           | **解决方法**                                                                                                                                                                                                                                                                                                                                           |
|:---|:---|:---|
| 部署进度卡在某个百分比不动。           | 模型较大，pull镜像需要时间。 | 等待几分钟，ModelArts会自动完成部署，如果超过10分钟仍然卡住，查看[ModelArts管理控制台](https://console.huaweicloud.com/modelarts/)日志。                                                                                                                                                                                                                                              |
| 部署完成但访问502。              | 容器还在启动中，或者启动失败。  | 1. 等待1\~2分钟让服务完全启动。  2. 在[ModelArts管理控制台](https://console.huaweicloud.com/modelarts/)查看推理服务日志排查错误。   |
| Failed to get IAM token。 | 认证失败。            | 确认是否运行在ModelArts Notebook环境中。                                                                                                                                                                                                                                                                                                                      |