更新时间:2024-11-21 GMT+08:00
分享

通过VPC访问通道的方式访问在线服务

背景说明

如果您希望在自己账号的VPC内部节点访问ModelArts推理的在线服务,可以使用VPC访问通道的功能,用户通过在自己账号的指定VPC下创建终端节点,连接到ModelArts的终端节点服务,即可在自己的VPC节点中访问在线服务。

约束限制

调用API访问在线服务时,对预测请求体大小和预测时间有限制:
  • 请求体的大小不超过12MB,超过后请求会被拦截。
  • 因APIG(API网关)限制,平台每次请求预测的时间不超过40秒。

操作步骤

VPC访问通道访问在线服务操作步骤如下:

  1. 获取ModelArts终端节点服务地址
  2. 购买连接ModelArts终端节点
  3. 创建DNS内网域名
  4. VPC访问在线服务
  1. 提交工单,提供账号ID给华为云技术支持,用于获取ModelArts终端节点服务地址。
  2. 购买连接ModelArts终端节点

    1. 登录虚拟私有云(VPC)管理控制台,单击左侧导航栏中的“VPC 终端节点>终端节点”,进入“终端节点”页面。
    2. 单击右上角的“购买终端节点”,进入购买页面。
      • 区域:终端节点所在区域。

        不同区域的资源之间内网不互通,请确保与ModelArts所在区域保持一致。

      • 服务类别:请选择“按名称查找服务”
      • 服务名称:填入步骤1中获取的“终端节点服务地址”。单击右侧验证按钮,系统将为您自动填入虚拟私有云、子网和节点IP。
      • 创建内网域名:保持默认值。
    3. 确认规格无误后,单击“立即购买”后提交任务,界面自动跳转至终端节点列表页面。

  3. 创建DNS内网域名

    新创建的在线服务对接的是专享版APIG,需要使用ModelArts推理的独立公网域名,即infer-modelarts-<regionId>.modelarts-infer.com。内网VPC无法解析modelarts-infer.com域名,需要用户参考当前步骤和“步骤4 VPC访问在线服务”增加内网域名解析。
    1. 登录云解析服务DNS管理控制台,左侧导航栏选择“内网域名”。
    2. 单击“创建内网域名”,打开创建内网域名弹出框。填写以下参数配置:
      • 域名:遵循命名规范“infer-modelarts-<regionId>.modelarts-infer.com”,例如:infer-modelarts-cn-south-1.modelarts-infer.com
      • VPC:选择内网域名关联的VPC。
    3. 单击“确定”,完成DNS内网域名的创建。

  4. VPC访问在线服务

    1. 通过VPC访问通道访问在线服务,API如下:
      https://{DNS内网域名}/{URL}
      • DNS内网域名:设置的内网域名。您还可以通过在线服务列表页,单击“VPC访问通道”,打开弹出框,查看“访问域名”。
      • URL:在线服务的URL为服务详情页,调用指南页签中获取的“API接口公网地址”截取域名之后的地址部分。
        图1 获取URL
    2. 使用图形界面的软件、curl命令、Python语言等多种方式访问在线服务。可参考通过Token认证的方式访问在线服务

相关文档