在线服务访问通道概述
场景说明
ModelArts推理服务部署成功后,由于推理服务所在VPC与用户业务网络通常存在隔离,平台为用户提供了以下三种“访问通道”以打通网络并安全调用在线服务:
- 公网访问:平台统一提供公网EIP入口,用户可在任意互联网环境调用在线服务。
- 内网接入访问:通过VPCEP(VPC 终端节点)打通用户VPC或专属资源池网络与推理服务所在VPC,实现私密、低延迟的内网调用。
- ELB 访问:在VPCEP(VPC 终端节点)打通推理服务的基础上,一键对接用户ELB并自动管理ELB相关资源(监听器、后端服务器组、转发策略等),用户可在ELB上绑定EIP/域名/证书,获得独享带宽与更灵活的流量治理能力。
三种通道并非互斥关系,而是面向不同场景的层次化设计,用户可按业务场景组合使用或迁移切换。
- 公网访问面向调测与轻量调用。
- 内网接入面向企业内网生产调用。
- ELB访问面向公网生产调用与流量治理。
访问方式对比
| 分类 | 公网访问 | 内网接入访问 | ELB 访问 |
|---|---|---|---|
| 技术原理 | 平台统一提供公网EIP + ELB网关,请求经网关转发至推理服务 | 在用户VPC/资源池VPC内创建VPCEP,与推理服务VPC 私网打通 | 在用户VPC内创建VPCEP 与推理服务VPC私网打通。并自动创建ELB监听器/后端服务器组/转发策略等资源,以对接用户ELB与VPCEP |
| 网络入口 | 公网EIP(平台共享) | VPCEP私网 IP | ELB私网/公网IP(用户可为ELB绑定EIP) |
| 适用场景 | 服务调测、低频调用、跨地域公网调用 | 企业内网生产调用、低延迟、高安全、合规要求 | 公网生产调用、高带宽、独立带宽、需要SSL/SNI/域名、需要流量分发 |
| 优势 | 开箱即用、零基础设施配置 | 私网调用安全高、延迟低、无次数限制、成本相对低 | 无次数限制、支持SSL/SNI/域名、可绑定 EIP 灵活入网 |
| 劣势 | 10000次 / 天限制、共享带宽受其它用户影响、无法配置自有证书 / 域名、请求需经过WAF、ELB等,转发链路较长 | 需打通VPC/资源池网络、用户网络场景需自购ECS、接入ELB/EIP的步骤较繁琐 | 用户需自行规划ELB实例的规格、监控、扩缩容和安全防护 |
| 参考文档 |