更新时间:2026-06-01 GMT+08:00
分享

使用OpenClaw在线部署推理服务

在AI模型开发过程中,开发者经常需要将训练好的模型快速部署为在线服务,以供应用程序调用。然而,传统的部署方式往往需要编写复杂的代码和配置,这不仅增加了开发者的负担,也延长了模型上线的时间。如何简化这一过程,提高模型部署的效率?通过在ModelArts Notebook中使用OpenClaw,开发者可以快速部署在线推理服务,极大地简化了部署流程,提高了模型上线的速度。

  • 使用OpenClaw图形化/对话式操作,无需手动编写复杂配置。
  • 自动选择费用最低配置。
  • 支持公共资源池部署推理服务。
  • 完整的错误排查指南。

Notebook是容器运行时环境,运行环境会在关机时被清理。请通过保存镜像及时保留npm install、apt-get install、yum install、pip install和OpenClaw安装后的配置对话等,以避免Notebook运行环境中的数据或对话session丢失。关于如何保存镜像,请参见保存镜像

约束限制

Notebook OpenClaw功能仅支持“华北-北京四”区域。

前提条件

已完成在Notebook中安装配置OpenClaw

计费说明

在ModelArts进行服务部署时,会产生计算资源和存储资源的累计值计费。旧版推理部署计费请参见推理部署计费项;新版推理部署计费请参见推理部署(新版)计费项

创建推理服务

  1. 登录ModelArts管理控制台,在左侧导航栏选择开发空间 > Notebook,进入“Notebook”页面。
  2. “状态”“运行中”的Notebook实例的操作列,单击“接入环境”,在“接入方式”对话框,单击“JupyterLab 接入”右侧的“接入”
  3. “ModelArts Launcher”页面的“AI Agent”区域,单击“OpenClaw”,打开OpenClaw。
  4. 在OpenClaw左侧导航栏,单击“聊天”,输入创建推理服务的语句。示例如下:
    请帮我在公共池部署一个推理在线服
    图1 创建推理服务
    图2 推理服务部署成功

查看执行结果

您可以通过OpenClaw或者ModelArts管理控制台“在线服务”页面查看推理服务的运行状态。

图3 查看OpenClaw执行结果
图4 “在线服务”页面

常见问题

问题

原因

解决方法

部署进度卡在某个百分比不动。

模型较大,pull镜像需要时间 。

等待几分钟,ModelArts会自动完成部署,如果超过10分钟仍然卡住,查看ModelArts管理控制台日志。

部署完成但访问502。

容器还在启动中,或者启动失败。

  1. 等待1~2分钟让服务完全启动。
  2. ModelArts管理控制台查看推理服务日志排查错误。

Failed to get IAM token。

认证失败。

确认是否运行在ModelArts Notebook环境中。

相关文档