文档首页/
AI开发平台ModelArts/
ModelArts用户指南(Standard)/
使用ModelArts Standard部署模型并推理预测/
将模型部署为实时推理作业/
访问在线服务支持的访问通道/
通过VPC访问通道的方式访问在线服务
更新时间:2024-11-21 GMT+08:00
通过VPC访问通道的方式访问在线服务
背景说明
如果您希望在自己账号的VPC内部节点访问ModelArts推理的在线服务,可以使用VPC访问通道的功能,用户通过在自己账号的指定VPC下创建终端节点,连接到ModelArts的终端节点服务,即可在自己的VPC节点中访问在线服务。
约束限制
调用API访问在线服务时,对预测请求体大小和预测时间有限制:
- 请求体的大小不超过12MB,超过后请求会被拦截。
- 因APIG(API网关)限制,平台每次请求预测的时间不超过40秒。
操作步骤
VPC访问通道访问在线服务操作步骤如下:
- 提交工单,提供账号ID给华为云技术支持,用于获取ModelArts终端节点服务地址。
- 购买连接ModelArts终端节点
- 登录虚拟私有云(VPC)管理控制台,单击左侧导航栏中的“VPC 终端节点>终端节点”,进入“终端节点”页面。
- 单击右上角的“购买终端节点”,进入购买页面。
- 区域:终端节点所在区域。
- 服务类别:请选择“按名称查找服务”。
- 服务名称:填入步骤1中获取的“终端节点服务地址”。单击右侧验证按钮,系统将为您自动填入虚拟私有云、子网和节点IP。
- 创建内网域名:保持默认值。
- 确认规格无误后,单击“立即购买”后提交任务,界面自动跳转至终端节点列表页面。
- 创建DNS内网域名
新创建的在线服务对接的是专享版APIG,需要使用ModelArts推理的独立公网域名,即infer-modelarts-<regionId>.modelarts-infer.com。内网VPC无法解析modelarts-infer.com域名,需要用户参考当前步骤和“步骤4 VPC访问在线服务”增加内网域名解析。
- 登录云解析服务DNS管理控制台,左侧导航栏选择“内网域名”。
- 单击“创建内网域名”,打开创建内网域名弹出框。填写以下参数配置:
- 域名:遵循命名规范“infer-modelarts-<regionId>.modelarts-infer.com”,例如:infer-modelarts-cn-south-1.modelarts-infer.com
- VPC:选择内网域名关联的VPC。
- 单击“确定”,完成DNS内网域名的创建。
- VPC访问在线服务
- 通过VPC访问通道访问在线服务,API如下:
https://{DNS内网域名}/{URL}
- DNS内网域名:设置的内网域名。您还可以通过在线服务列表页,单击“VPC访问通道”,打开弹出框,查看“访问域名”。
- URL:在线服务的URL为服务详情页,调用指南页签中获取的“API接口公网地址”截取域名之后的地址部分。
图1 获取URL
- 使用图形界面的软件、curl命令、Python语言等多种方式访问在线服务。可参考通过Token认证的方式访问在线服务。
- 通过VPC访问通道访问在线服务,API如下:
父主题: 访问在线服务支持的访问通道