查看在线服务详情

服务

展现服务的服务拓扑图、基础信息、网络配置、流量权重和高级配置。

服务拓扑图请见查看服务部署拓扑图。

调用信息可以通过复制API调用地址，调用服务。

部署

展现服务的部署信息，通过切换左侧卡片，可以查看不同部署的部署信息。

在部署详情页可以操作的部分关键信息如下：

• 在左侧部署小卡片中，可进行升级部署、停止服务部署、扩缩容在线服务部署等操作。
• 单击部署副本数的“查看详情”，可查看部署副本数详情：
  • 可根据业务情况删除实例，也可以对部署实例进行扩缩容，详情请见扩缩容在线服务部署。
  • 在部署副本列表可单击Pod数量查看Pod详情，Pod操作列可查看Pod事件和日志，也可根据业务删除Pod。

  如果资源池为公共资源池，暂不支持删除且重建实例操作和删除Pod操作。

• 单击流量权重的“修改配置”，可修改服务部署的流量权重，详情请见查看/修改流量权重。
• 单击版本数量的“查看详情”，可查看当前部署的版本列表，可对部署版本进行切换和删除操作。不能删除当前部署版本。
• 在部署的“基本信息”栏中可以复制部署名称、复制部署ID、修改部署的描述信息、查看部署的创建时间、修改时间和创建者信息。

• 在部署的“资源配置”信息中，单击资源池名称，可前往资源池详情页查看资源池配置信息，详情请见查看专属资源池详情。

预测

对在线服务进行预测。具体操作请参见使用预测功能测试在线服务。

监控

展现当前服务的监控数据。具体监控数据请见在ModelArts平台查看在线服务性能指标。

Cloud Shell

允许用户使用ModelArts控制台提供的CloudShell登录运行中在线服务实例容器，详情请见使用CloudShell调试在线服务实例容器。

事件

服务事件记录了服务层面在线服务在运行过程中产生的各种事件，包括但不限于服务启动、停止、升级、故障恢复等。服务事件保存周期为1个月，1个月后自动清理数据。

Pod事件记录了底层容器Kubernetes集群中Pod的生命周期事件和异常情况。Pod事件保存周期为1小时，1小时后自动清理数据。

查看服务的事件类型和事件信息，请参见查看在线服务的事件。

日志

在线服务的运行日志会输出存放到云日志服务LTS。LTS自动创建日志组和日志流，默认缓存7天内的运行日志。支持对在线服务的运行日志进行搜索和分析。

• 日志搜索：通过输入搜索语句，在日志数据中查找包含特定关键词的日志记录。或者根据时间范围来检索日志数据，帮助您定位特定时间段内发生的事件和问题。详情请见LTS搜索日志。
• 统计图表：日志上报LTS后，支持通过SQL分析语法搜索关键日志数据，并将查询结果通过统计图表的方式进行可视化展示。详情请见使用统计图表将日志可视化。
• 日志分析：执行搜索与分析前，需要将上报的日志进行结构化配置和索引配置，方便进行搜索与分析。详情请见配置云端结构化解析规则。
• 实时日志：在线服务运行日志接入LTS后，每隔大约1分钟上报一次。因此，在实时日志页面，您最多需要等待1分钟左右，即可查看实时上报的日志，实现对日志数据的快速检索与分析。详情请见查看实时日志。

智能运维

在大模型部署规模持续扩大、跨节点部署及负载均衡需求日益复杂的背景下，传统基于Kubernetes原生HPA的资源扩缩策略已难以满足精细化的P（推理实例）与D（解码实例）配比调整需求。用户在实际业务运行中，常面临因P/D配比不合理导致的资源利用率低下或性能瓶颈问题，而现有工具无法提供基于仿真算法的动态配比建议。为解决这一矛盾，ModelArts资源池支持安装HRA插件，通过仿真算法计算并展示最优P/D配比推荐值，使用户能够在不依赖自动扩缩功能的前提下，基于实时指标分析手动调整实例配比，从而在资源容量范围内实现更高效的推理服务部署。

打开“检测”开关，单击“编辑”，可查看根据智能算法方针计算出的最佳推理单元配比。

仅在线服务使用安装HRA插件的物理资源池时，且在线服务的模型资产有“弹性配比推荐”标签，支持推理单元配比检测。

内网接入管理

展示需要当前账号审批的内网接入申请。

ModelArts提供内网接入功能，通过创建内网接入申请，实现自动创建VPCEP，打通VPC与推理在线服务的内网连接。详情请见通过内网访问在线服务。

标签

展示服务已添加的标签。支持添加、修改、删除标签。

标签详细用法请参见ModelArts如何通过标签实现资源分组管理。