更新时间:2024-04-30 GMT+08:00

属性总览

您可以使用ServiceStep来构建服务部署节点,ServiceStep结构如下

表1 ServiceStep

属性

描述

是否必填

数据类型

name

服务部署节点的名称,命名规范(只能包含英文字母、数字、下划线(_)、中划线(-),并且只能以英文字母开头,长度限制为64字符),一个Workflow里的两个step名称不能重复

str

inputs

服务部署节点的输入列表

ServiceInput或者ServiceInput的列表

outputs

服务部署节点的输出列表

ServiceOutput或者ServiceOutput的列表

title

title信息,主要用于前端的名称展示

str

description

服务部署节点的描述信息

str

policy

节点执行的policy

StepPolicy

depend_steps

依赖的节点列表

Step或者Step的列表

表2 ServiceInput

属性

描述

是否必填

数据类型

name

服务部署节点的输入名称,命名规范(只能包含英文字母、数字、下划线(_)、中划线(-),并且只能以英文字母开头,长度限制为64字符)。同一个Step的输入名称不能重复

str

data

服务部署节点的输入数据对象

模型列表或服务相关对象,当前仅支持ServiceInputPlaceholder,ServiceData,ServiceUpdatePlaceholder

表3 ServiceOutput

属性

描述

是否必填

数据类型

name

服务部署节点的输出名称,命名规范(只能包含英文字母、数字、下划线(_)、中划线(-),并且只能以英文字母开头,长度限制为64字符)。同一个Step的输出名称不能重复

str

service_config

服务部署相关配置信息

ServiceConfig

表4 ServiceConfig

属性

描述

是否必填

数据类型

infer_type

推理方式:取值可为real-time/batch/edge。默认为real-time。

  • real-time代表在线服务,将模型部署为一个Web Service。
  • batch为批量服务,批量服务可对批量数据进行推理,完成数据处理后自动停止。
  • edge表示边缘服务,通过华为云智能边缘平台,在边缘节点将模型部署为一个Web Service,需提前在IEF(智能边缘服务)创建好节点。

str

service_name

服务名称,支持1-64位可见字符(含中文),名称可以包含字母、中文、数字、中划线、下划线。

说明:

该字段不填时默认为自动生成的服务名称。

str、Placeholder

description

服务备注,默认为空,不超过100个字符。

str

vpc_id

在线服务实例部署的虚拟私有云ID,默认为空,此时ModelArts会为每个用户分配一个专属的VPC,用户之间隔离。如需要在服务实例中访问名下VPC内的其他服务组件,则可配置此参数为对应VPC的ID。VPC一旦配置,不支持修改。当vpc_id与cluster_id一同配置时,只有专属资源池参数生效。

str

subnet_network_id

子网的网络ID,默认为空,当配置了vpc_id则此参数必填。需填写虚拟私有云控制台子网详情中显示的“网络ID”。通过子网可提供与其他网络隔离的、可以独享的网络资源。

str

security_group_id

安全组,默认为空,当配置了vpc_id则此参数必填。安全组起着虚拟防火墙的作用,为服务实例提供安全的网络访问控制策略。安全组须包含至少一条入方向规则,对协议为TCP、源地址为0.0.0.0/0、端口为8080的请求放行。

str

cluster_id

专属资源池ID,默认为空,不使用专属资源池。使用专属资源池部署服务时需确保集群状态正常;配置此参数后,则使用集群的网络配置,vpc_id参数不生效;与下方real-time config中的cluster_id同时配置时,优先使用real-time config中的cluster_id参数。

str

additional_properties

附加的相关配置信息。

dict

apps

服务部署支持APP认证。支持填入多个app name。

str、Placeholder、list

envs

环境变量

dict

示例:

example = ServiceConfig()
# 主要在服务部署节点的输出中使用

如果您没有特殊需求,可直接使用内置的默认值。