更新时间:2026-10-10 GMT+08:00
分享

模型

模型服务为智能体提供核心推理能力,是智能体实现自主决策和任务执行的基础。

模型管理为用户提供自定义模型服务的统一接入与全生命周期管理能力,实现模型提供商、模型服务和模型代理的一站式配置与运维。

模型管理支持两种访问方式:私网访问(通过模型代理)和公网访问(直接访问),根据模型提供商的网络配置决定。

图1 工作原理

公网访问(直接访问)

适用于网络配置为“公网”的模型提供商,无需创建模型代理,调用方直接通过Base_url访问后端。
  1. 调用方发起请求:Agent或SDK直接向模型提供商的base_url发起推理请求。
  2. 出站身份认证:模型供应商下的模型服务的鉴权方式。
  3. 访问后端:请求被转发到模型提供商后端(如OpenAI、Anthropic等),返回推理结果。

私网访问(通过模型代理)

适用于网络配置为“私网”的模型提供商,需创建模型代理作为访问入口。
  1. 调用方发起请求:Agent或SDK通过 /inference/{path} 向模型代理发起推理请求。
  2. 入站认证:模型代理验证调用方身份,确保只有授权的调用方才能访问后端模型,防止未授权访问。入站认证在创建模型代理时配置。
  3. 转发到模型提供商:模型代理将请求转发到关联的模型提供商。
  4. 出站身份认证:模型供应商下的模型服务的鉴权方式。
  5. 访问后端:请求被转发到模型提供商后端(如OpenAI、Anthropic等),返回推理结果。

关于更多模型的介绍请参考模型介绍。

模型在Managed Agents由用户自定义配置,配置后,在创建智能体时支持选择。

前提条件

  • 已开通AgentArts服务,并在“管理中心 > 授权管理”完成依赖云服务授权。

添加公网模型

公网模型,即通过互联网直接调用各厂商云端API(如OpenAI、华为云MaaS等)所添加的模型。

这里以添加华为云MaaS的GLM-5.3模型为例,采用OpenAI兼容协议,区域选择“西南-贵阳一”。

在“创建智能体”页面,“模型及提示词”区域,单击“模型管理”,配置模型信息。

图2 管理模型

获取MaaS的GLM-5.3模型信息

  1. 进入“西南-贵阳一”MaaS页面,选择“模型推理 > 在线推理”,找到GLM-5.3模型,查看模型类型。
    图3 获取模型信息1
  2. 单击“API调用 > 主推版本”,查看模型信息。
    图4 获取模型信息2
  3. 获取模型API Key。
    在MaaS左侧导航,选择“模型与统计 > API Key 管理”,单击“创建 API Key”,如图5所示,复制并保存API Key信息。
    图5 创建API Key

添加模型供应商

模型供应商提供的模型服务使企业和个人能够快速获取和使用高质量模型。在添加模型服务之前需要先添加模型供应商。

单击“添加模型供应商”,配置模型供应商信息。

基本信息

如图6所示。

图6 配置模型供应商信息
表1 参数说明

参数

说明

示例

名称

模型提供商的名称。

命名规则:以小写字母开头,以小写字母或数字结尾,可以包含小写字母、数字和中划线,长度为2-40个字符。系统会默认生成名称,可根据需求自定义修改。

maas

描述(可选)

用于说明该模型提供商的内容与用途。

接入华为云MaaS的GLM-5.3模型

Base_url

模型API地址,以 https:// 开头的完整 URL,长度为1-2048个字符。

https://api.modelarts-maas.com/openai/v1

权限与访问控制

此处的出站身份认证用于配置模型的认证方式。例如,华为云MaaS的GLM-5.3模型支持API Key认证,通过在HTTP请求中携带API Key实现身份识别。如图6所示。

出网网络配置用于指定访问MaaS模型时,使用的网络路径。例如,华为云MaaS的GLM-5.3模型支持公网访问。

图7 权限与访问控制
表2 权限与访问控制

参数

说明

示例

出站身份认证

IAM 认证

选择出站身份,如下拉框无选项请单击“创建出站身份”,创建“IAM 委托”类型的出站身份,如果无IAM信任委托需创建信任委托。

图8 创建信任委托

使用的IAM信任委托需包含如下action:

sts::setContext:获取STS5委托所需权限,获取临时凭据时携带用户工作负载访问令牌(workload access token)信息。

-

API Key 认证

在转发请求时,将API Key附加到请求头或查询参数中。
  • 选择出站身份,如下拉框无选项请单击“创建出站身份”,按页面提示填写身份名称、选择API Key类型、填写在MaaS界面获取的API Key。创建“API Key”类型的出站身份。
    图9 创建出站身份
  • 选择位置。
    选择API Key的传递位置。
    • 标头:在HTTP请求的头部字段中传递API Key。
    • 查询参数:在HTTP请求的URL中传递API Key。
  • 参数名称(可选):输入参数名称,在请求中传递API的密钥时使用的具体名称,默认为Authorization。
  • 前缀(可选):在请求头中传递API Key时,API密钥值之前的前缀部分,如在授权标头中使用的“Bearer”。填写时不需要增加空格,平台会自动在密钥值前添加空格组装,例如填写“Bearer”,平台最终组装为“Bearer xxx”进行传递。

API Key 认证

maas-apiey

标头

Authorization

Bearer

出网网络配置

公网访问

能够连接到外部的互联网,访问外部的资源和服务。

公网访问

私网访问

连接内部的私有网络,访问内部的资源和服务。

-

高级配置:保持默认即可。

图10 高级配置

为模型供应商添加标签,便于后续管理、搜索。

模型供应商信息配置完成后,即可添加模型服务。

添加模型服务

  1. 单击“添加模型服务”,配置模型信息,如图11所示,配置完成后,单击“确定”。
    图11 配置模型信息
    表3 参数说明

    参数

    说明

    示例

    模型服务名称

    模型服务名称。

    命名规则:支持中英文、数字及符号 _./-,须以中英文或数字开头结尾,长度2-64个字符。

    系统会默认生成名称,可根据需求自定义修改。

    maas

    描述

    用于说明该模型服务的内容与用途。长度不大于1000个字符。

    接入华为云MaaS模型即服务的GLM-5.3模型

    模型名称

    模型名称,接口调用请求体中的model字段的取值。

    由英文、数字及符号(连字符、点、下划线、星号、问号和@)组成,支持 * 的前缀通配以及后缀通配,长度为1-256个字符。

    支持精确匹配与通配匹配,精确匹配优先。

    精确匹配:与请求 model 字段完全一致时匹配。例如,glm-5.3。

    前缀通配:*结尾,匹配所有以glm-开头的模型。例如,glm-*。

    后缀通配:*开头,匹配所有以-turbo结尾的模型。例如,*-turbo。

    同时满足精确和通配匹配时,优先精确匹配。

    通配匹配命中后,网关将客户端请求中的原始model值透传给后端,而非通配符本身。例如配置glm-*、请求glm-5.3-turbo 时,后端收到的model为glm-5.3-turbo。

    glm-5.3

    API接口协议

    选择模型API接口协议,支持以下三种:

    • 标准OpenAI协议:兼容OpenAI API标准的协议。
    • Anthropic协议:兼容Anthropic API标准的协议。
    • 华为云MaaS标准API V1:用于对接MaaS V1版本接口,推荐使用适用范围更广的“标准OpenAI协议”。V1版本协议仅支持对接Qwen3-32B、Qwen3-30B-A3B模型,详见MaaS标准API V1。

    标准OpenAI协议

    模型类型

    模型支持的能力类别,须按模型实际能力选择。

    • 文本对话/图像理解
    • 文本向量化
    • 多模态对话
    • 文本排序
    • 实时语音对话

    文本对话/图像理解

  2. 单击“创建”。

    模型供应商显示在模型列表中,添加的模型服务显示在模型供应商详情页面的模型服务列表中,即可被选择使用。

添加私网模型

私网模型,即部署在公司或个人的局域网/私有服务器中的模型。

在“创建智能体”页面,“模型及提示词”区域,单击“模型管理”,配置模型信息。

图12 管理模型

添加模型供应商

模型供应商提供的模型服务使企业和个人能够快速获取和使用高质量模型。在添加模型服务之前需要先添加模型供应商。

单击“添加模型供应商”,配置模型供应商信息。

基本信息

如图13所示。

图13 配置模型供应商基本信息
表4 参数说明

参数

说明

示例

名称

模型提供商的名称。

命名规则:以小写字母开头,以小写字母或数字结尾,可以包含小写字母、数字和中划线,长度为2-40个字符。系统会默认生成名称,可根据需求自定义修改。

provider-priv

描述(可选)

用于说明该模型提供商的内容与用途。

私网访问

Base_url

模型API地址,以 https:// 开头的完整 URL,长度为1-2048个字符。

格式为:https://<主机名或IP>:<端口>/<可选的基础路径>

https://192.168.0.20:8443

权限与访问控制

此处的出站身份认证用于配置模型的认证方式。

出网网络配置用于指定访问MaaS模型时,使用的网络路径。配置后如修改模型供应商信息,则已关联的模型代理不可更改出网网络配置。

图14 权限与访问示例
表5 权限与访问控制

参数

说明

示例

出站身份认证

IAM 认证

选择出站身份,如下拉框无选项请单击“创建出站身份”,创建“IAM 委托”类型的出站身份,如果无IAM信任委托需创建信任委托。

图15 创建信任委托

使用的IAM信任委托需包含如下action:

sts::setContext:获取STS5委托所需权限,获取临时凭据时携带用户工作负载访问令牌(workload access token)信息。

-

API Key 认证

在转发请求时,将API Key附加到请求头或查询参数中。
  • 选择出站身份,如下拉框无选项请单击“创建出站身份”,按页面提示填写身份名称、选择API Key类型、填写在MaaS界面获取的API Key。创建“API Key”类型的出站身份。
    图16 创建出站身份
  • 选择位置。
    选择API Key的传递位置。
    • 标头:在HTTP请求的头部字段中传递API Key。
    • 查询参数:在HTTP请求的URL中传递API Key。
  • 参数名称(可选):输入参数名称,在请求中传递API的密钥时使用的具体名称,默认为Authorization。
  • 前缀(可选):在请求头中传递API Key时,API密钥值之前的前缀部分,如在授权标头中使用的“Bearer”。填写时不需要增加空格,平台会自动在密钥值前添加空格组装,例如填写“Bearer”,平台最终组装为“Bearer xxx”进行传递。

API Key 认证

zj914-mass

标头

Authorization

Bearer

出网网络配置

公网访问

能够连接到外部的互联网,访问外部的资源和服务。

-

私网访问

连接内部的私有网络,访问内部的资源和服务。

私网访问

vpc-2c45(192.168.0.0/16)

subnet-2c4b(192.168.0.0/24)

sg-1d4f(d9cc2271-b0d7-49e8-858*******)

高级配置:保持默认即可。

图17 高级配置

为模型供应商添加标签,方便按类别筛选、检索和区分多个模型供应商。

模型供应商信息配置完成后,即可添加模型服务。

添加模型服务

单击“添加模型服务”,配置模型信息,如图18所示,配置完成后,单击“确定”。

图18 配置模型信息
表6 参数说明

参数

说明

示例

模型服务名称

模型服务名称。

命名规则:支持中英文、数字及符号 _./-,须以中英文或数字开头结尾,长度2-64个字符。

系统会默认生成名称,可根据需求自定义修改。

ModelService-pri

描述

用于说明该模型服务的内容与用途。长度不大于1000个字符。

接入GLM-5.1模型

模型名称

模型名称,接口调用请求体中的model字段的取值。

由英文、数字及符号(连字符、点、下划线、星号、问号和@)组成,支持 * 的前缀通配以及后缀通配,长度为1-256个字符。

支持精确匹配与通配匹配,精确匹配优先。

精确匹配:与请求 model 字段完全一致时匹配。例如,glm-5.3。

前缀通配:*结尾,匹配所有以glm-开头的模型。例如,glm-*。

后缀通配:*开头,匹配所有以-turbo结尾的模型。例如,*-turbo。

同时满足精确和通配匹配时,优先精确匹配。

通配匹配命中后,网关将客户端请求中的原始model值透传给后端,而非通配符本身。例如配置glm-*、请求glm-5.3-turbo 时,后端收到的model为glm-5.3-turbo。

glm-5.1

API接口协议

选择模型API接口协议,支持以下三种:

  • 标准OpenAI协议:兼容OpenAI API标准的协议。
  • Anthropic协议:兼容Anthropic API标准的协议。
  • 华为云MaaS标准API V1:用于对接MaaS V1版本接口,推荐使用适用范围更广的“标准OpenAI协议”。V1版本协议仅支持对接Qwen3-32B、Qwen3-30B-A3B模型,详见MaaS标准API V1。

标准OpenAI协议

模型类型

模型支持的能力类别,须按模型实际能力选择。

  • 文本对话/图像理解
  • 文本向量化
  • 多模态对话
  • 文本排序
  • 实时语音对话

文本对话/图像理解

添加模型代理

私网模型部署在VPC内网中,与公网隔离,外部服务无法直接访问。配置模型代理是为了在网络隔离的环境下,通过代理转发请求,实现对私网内模型服务的访问。

  1. 单击“添加模型代理”,如图19所示,配置完成后,单击“确定”。

    入站身份认证是调用模型接口时,验证调用者的身份。

    图19 添加模型代理
    表7 模型代理参数说明

    参数

    说明

    示例

    模型代理名称

    模型代理的名称。

    命名规则:以小写字母开头,以小写字母或数字结尾,可以包含小写字母、数字和中划线,长度为2-40个字符。

    系统会默认生成名称,可根据需求自定义修改。

    model-proxy-ty2

    描述(可选)

    用于说明该模型代理的内容与用途。长度不大于1000个字符。

    -

    入站身份认证

    配置入站身份认证方式,用于验证调用者的身份。支持以下两种认证方式:

    • IAM认证:将华为云IAM身份配置为入站身份认证,以验证调用者的身份。
    • API Key认证:将预设的密钥对(键和值)配置为入站身份认证,以验证请求中携带的密钥合法性。选择后需配置 API Key 名称。

    API Key 认证

    API Key名称

    当入站身份认证选择“API Key认证”时填写。用于指定在HTTP请求头中传递API Key的键名,调用方需在请求头中携带该键名和对应的密钥值。系统会自动生成API Key的名称,可根据需求自定义修改。

    APIKey-214858378

    入网配置

    选择入站网关,通过互联网或者VPC内网访问模型代理。如下拉框无选项,请单击前往网络配置创建新的网络配置。

    gateway-ty2

    委托

    可使用系统默认创建的AgentArtsGatewayAgency委托。

    如需手动创建,请单击“创建委托”并参考如下配置创建。

    • 委托名称:自定义。
    • 信任主体类型:选择“云服务”。
    • 云服务:搜索service.WorkloadSandboxMetadata。
    • 其余参数使用默认值。
    图20 创建委托

    委托创建完成后可对委托进行授权,操作具体详情请参考创建委托并授权。

    AgentArtsGatewayAgency

    标签(可选)

    由“标签键”和“标签值”组成,用于标识和分类云资源。

    您可以在TMS中创建预定义标签,用于使用同一标签标识多种云资源,创建后可在标签输入框下拉选择同一标签,具体操作请参考创建预定义标签,创建后单击刷新。

    单击“添加标签”,选择在TMS中创建的预定义标签,或自定义输入标签键和标签值。

    可添加一个或多个标签,最多添加20个标签。

    -

  2. 单击“创建”。

    模型供应商显示在模型列表中,添加的模型服务显示在模型供应商详情页面的模型服务列表中,配置的模型代理显示在模型供应商详情页面的模型代理列表中,即可被选择使用。

在智能体中使用模型

在创建智能体时,选择添加的模型。

更换模型API Key

单击模型供应商卡片,在“基本信息”页面,“出站身份认证”区域的“API Key”右侧单击。

图21 更换模型API Key

相关文档