通过内网访问在线服务

背景说明

在企业级应用开发中，当开发人员需要从企业内部网络访问ModelArts提供的在线推理服务时，会遇到因网络隔离导致的访问障碍，影响开发效率和安全性。ModelArts支持内网访问在线服务。

内网访问需要确保服务和客户端在同一VPC内，适合需要高安全性和低延迟的场景。内网接入在线服务的场景下，通过在自己的VPC或资源池VPC等场景下创建VPCEP ，可以在VPC内提供便捷、安全、私密的通道与推理在线服务进行连接。ModelArts提供内网接入功能，通过创建内网接入申请，实现自动创建VPCEP，打通VPC与推理在线服务的内网连接，从而实现通过内网高效、安全地访问在线推理服务。

权限说明

用户在使用内网接入功能时，要保证拥有以下权限。

用户还需赋予ModelArts服务以下委托权限。ModelArts添加授权授权操作请参见快速配置ModelArts委托授权。

约束限制

• 用户网络场景，内网接入为VPC粒度，同一个服务在同一VPC下只允许创建一个内网接入，且用户只能选择自己的VPC网络接入内网。
• 资源池网络场景，内网接入为资源池网络粒度，相同资源池网络下的资源池只允许创建一个内网接入。

前提条件

• 要访问的在线服务正常运行，状态为“运行中”。
• 在推理服务列表单击服务名称，进入服务详情页获取在线服务ID。
  图1 获取在线服务ID
  
• 如果申请打通自己创建的VPC与推理服务的内网连接，请先创建VPC和子网，详情请见创建虚拟私有云和子网。
• 如果申请打通资源池与推理服务的内网连接，请先创建专属资源池，详情请见创建专属资源池。

创建内网连接

1. 登录ModelArts管理控制台，在左侧导航栏中选择“模型推理 > 在线推理”，默认进入“在线推理”列表。
2. 单击“内网接入管理”，切换至“内网接入管理”页面。
3. 单击“我的申请”，切换到“我的申请”页签下，单击“创建”。
4. 在“创建申请”弹框中填写参数，单击“确定”。

   在“我的申请”查看申请状态，待申请状态为接入成功，即申请审批通过，记录“访问地址”栏的地址。如果服务部署时勾选了“内网接入免审批”，三方用户的内网接入申请自动生效，无需审批。

   当内网连接申请处于"异常"状态并且异常原因为“连接失败，请重试”时，单击操作列的“重试”，重新创建该内网连接。

   内网连接申请通过后，如果申请场景为用户网络，请参考使用用户VPC访问在线服务；如果申请场景为资源池网络，请参考使用资源池网络访问在线服务。

   表3 内网接入申请参数说明

   参数	说明
   服务ID	需要内网访问的推理服务ID。填写前提条件中已获取的推理服务ID。
   网络类型	申请打通内网的VPC场景。 用户网络：打通当前用户指定VPC与推理服务的内网连接。 资源池网络：打通已创建的资源池与推理服务的内网连接。
   VPC	当申请场景选择“用户网络”时，选择待打通内网连接的VPC。 如果未创建VPC和子网，请前往VPC控制台创建VPC和子网，详情请见创建虚拟私有云和子网。
   子网	当申请场景选择“用户网络”时，选择待打通内网连接的子网。
   资源池	当申请场景选择“资源池网络”时，选择待打通内网连接的资源池。 如果未创建专属资源池，请前往ModelArts控制台创建专属资源池，详情请见创建专属资源池。

使用用户VPC访问在线服务

1. 已选择目标服务创建内网连接申请，且“申请场景”为“用户网络”。待申请状态为“接入成功”，即申请审批通过。
   图2 内网连接申请通过
   
2. 进入购买弹性云服务器页面购买ECS，虚拟私有云选择在创建内网连接的VPC。购买ECS更多参数请参见ECS购买。
   图3 购买ECS
   
3. 登录ECS，在ECS中调用内网接入列表展示的推理服务访问地址和API。登录ECS更多详情请见登录ECS。

使用资源池网络访问在线服务

1. 已选择目标服务创建内网连接申请，且“申请场景”为“资源池网络”。待申请状态为接入成功，即申请审批通过。
   图4 内网连接申请通过
   
2. 在“资源管理 > 资源池”列表中，单击已申请内网的资源池名称，进入资源池详情页，获取已申请内网的“资源池ID”。

   旧版路径：在“资源管理 > 专属资源池”列表中，单击已申请内网的资源池名称，进入资源池详情页，获取已申请内网的“资源池ID”。

3. 进入CCE控制台，通过已申请内网的资源池ID选择资源池对应的集群，单击集群名称进入集群。
4. 在左侧选择“工作负载”，选择对应的命名空间，查看工作负载列表。
   图5 查看CCE工作负载列表
   
5. 单击工作负载名称，进入想要使用的工作负载，远程登录进入容器。
   图6 远程登录CCE
   
6. 进入容器后使用curl命令访问接口，地址为创建内网接入成功后展示的访问地址。
   图7 访问在线服务
   

常见问题

购买ECS后，与内网接入列表展示的地址不通。

请检查ECS的安全组是否开放。

管理内网接入

• 删除内网接入申请

  业务结束情况下，如果申请的内网接入无使用需求，可删除内网接入申请。

  1. 登录ModelArts管理控制台，在左侧导航栏中选择“模型推理 > 在线推理”，默认进入“在线推理”列表。
  2. 单击“内网接入管理”，切换至“内网接入管理”页面。
  3. 切换到“我的申请”页签下，单击操作列的“删除”。
  4. 在弹框中，确认删除信息，一键输入DELETE，单击“确定”。
• 通过/驳回待审批的内网接入

  如果您是内网接入审批人，可在我的审批列表，对三方提过来的内网接入申请进行通过和驳回操作。

  1. 登录ModelArts管理控制台，在左侧导航栏中选择“模型推理 > 在线推理”，默认进入“在线推理”列表。
  2. 单击“内网接入管理”，切换至“内网接入管理”页面。
  3. 在“我的审批”页签下，单击操作列的“通过”，即通过该内网接入申请，单击操作列的“驳回”，即驳回该内网接入申请。
• 取消授权

  如果您是内网接入审批人，针对已审批通过的内网接入申请，可通过取消授权操作，再次驳回内网接入申请。

  1. 登录ModelArts管理控制台，在左侧导航栏中选择“模型推理 > 在线推理”，默认进入“在线推理”列表。
  2. 单击“内网接入管理”，切换至“内网接入管理”页面。
  3. 在“我的审批”页签下，单击操作列的“取消授权”，在弹框中单击“确定”。