# 接入模型服务 本章节介绍如何在已接入的模型供应商下接入模型服务API。 为满足用户对模型的个性化与专业化需求，AgentArts支持接入由用户自建或第三方在外部环境部署的模型服务API。模型服务接入后，您可以在AgentArts中进行调测和发布，并在智能体中选择使用。 #### 支持接入的模型类型 当前支持接入的模型类型如下： - 文本对话（Chat） - 文本向量化（Embeddings） - 文本排序（Rerank） - 图像理解 #### 接口协议要求 为保证接入模型服务的质量，**模型API接入前请确保其符合对应的接口协议规范** 。不同模型类型支持的接口协议如下： - 文本对话、文本向量化、图像理解：标准OpenAI协议、阿里千问接口协议、MaaS标准API V1、MaaS标准API V2 - 文本排序：AI引擎标准协议 ![](https://support.huaweicloud.com/usermanual-agentarts0/public_sys-resources/note_3.0-zh-cn.png) - 标准OpenAI协议和AI引擎标准协议规范请参考[模型API接口规范](https://support.huaweicloud.com/usermanual-agentarts0/agentarts_05_0192.html)。 - 阿里千问接口协议规范请参考通义千问的接口协议。 - MaaS标准API V1接口规范请参考[MaaS标准API V1](https://support.huaweicloud.com/model-call-maas/model-call-020.html)。 - MaaS标准API V2接口规范请参考[MaaS标准API V2](https://support.huaweicloud.com/model-call-maas/model-call-019.html)。 #### 前提条件 - 已[接入模型供应商](https://support.huaweicloud.com/usermanual-agentarts0/agentarts_05_0190.html)。 - 登录用户为空间所有者、空间管理员、开发工程师、运维工程师，详细信息请参考[管理团队空间成员](https://support.huaweicloud.com/usermanual-agentarts0/agentarts_05_0216.html)。 - 已获取待接入模型服务的必要信息，例如API地址、鉴权信息（API Key等）、模型名称（模型ID/模型编码）及协议类型。 #### 新建模型服务 1. 登录[AgentArts智能体开发平台](https://console.huaweicloud.com/versatile/#/home/overview)，在左侧导航栏"个人空间"区域，选择目标空间。 2. 在左侧导航，选择"开发中心 \> 开发配置"。 3. 选择"自定义模型"页签，单击对应的模型供应商卡片，在"供应商详情"页面，单击"新建模型服务"。 图1新建模型服务 ![](https://support.huaweicloud.com/usermanual-agentarts0/zh-cn_image_0000002569422767.png) 4. 在"新建模型服务"页面，配置参数信息，具体参数说明请参考[表1]。 表1新建模型服务参数说明 | 参数 | 说明 | 示例 | |:---|:---|:---| | 模型服务图标 | 系统默认模型服务图标，用户也可以自定义图标。 1. 鼠标移动至系统默认图标上，单击鼠标左键。 2. 在虚线框中，单击鼠标左键，上传已备注的模型服务图标。 支持jpg、png格式图片，且不大于100KB。 | 系统默认图标 | | 模型服务名称 | 自定义模型服务名称。由2\~64个字符组成，包含中英文、数字及:._/\|\\-，以中英文、数字开头结尾。 | 文本对话 | | 模型名称 | 填写的模型名称必须为该模型的模型ID/模型编码，否则会导致模型不可用。 需要登录第三方模型厂商官网查看，例如，Baichuan4、deepseek-chat、glm-4-air。 如果要接入自建的模型服务，该模型名称将用于接口调用请求体的model字段。 由2\~64个字符组成，包含中英文、数字及:._/\|\\-，以中英文、数字开头结尾。 | deepseek-chat | | 模型类型 | 选择模型类型。 - **文本对话**：文本对话模型，通常被称为对话式AI或聊天机器人，是一种经过训练能够理解和生成人类语言，并以多轮、上下文连贯的方式进行交流的人工智能系统。 - **文本向量化**：文本向量化模型的核心任务是将文本（词、句、段落或文档）转换为计算机能够理解和处理的数值形式------即高维向量（也称为"嵌入"，Embedding）。这个向量就像是文本在数学空间中的一个"坐标点"。 - **文本排序**：文本排序模型用于对一组文本对象进行相关度排序。给定一个查询（Query）和一个文本列表（如搜索引擎的结果），排序模型会根据每个文本与查询的相关程度，从高到低进行排序。 - **图像理解**：图像理解模型是一种能够对图像内容进行分析、解读和理解的人工智能模型，其核心目标是让计算机像人类一样"看懂"图像。 | 文本对话 | | 模型服务API地址 | 填入需要接入模型的API地址信息。字符长度不大于255个字符。 格式为：https://*xxx* .com/v1/*xxx*。 | https://api.deepseek.com/chat/completions | | API接口协议 | - 当"模型类型"值为"文本对话"、"文本向量化"、"图像理解"时，选择"标准OpenAI协议"、"阿里千问接口协议"、"MaaS标准API V1"、"MaaS标准API V2"。 - 当"模型类型"值为"文本排序"时，选择"AI引擎标准协议"。 **标准OpenAI协议** 和**AI引擎标准协议** 规范请参考[模型API接口规范](https://support.huaweicloud.com/usermanual-agentarts0/agentarts_05_0192.html)。 **阿里千问接口协议**规范请参考通义千问的接口协议。 **MaaS标准API V1** 接口规范请参考[MaaS标准API V1](https://support.huaweicloud.com/model-call-maas/model-call-020.html)。 **MaaS标准API V2** 接口规范请参考[MaaS标准API V2](https://support.huaweicloud.com/model-call-maas/model-call-019.html)。 | 标准OpenAI协议 | | 流控配置 | 超出流控值，则触发限流，用户的请求会因为流控而失败。 - 无限制 - 10次/秒 - 50次/秒 - 100次/秒 - 200次/秒 | 无限制 | | 选择标签 | 可选项。 当"模型类型"值为"文本对话"、"图像理解"时，才有此参数。 选择标签后，在应用中选择大模型时，显示在大模型右侧。 - ![](https://support.huaweicloud.com/usermanual-agentarts0/zh-cn_image_0000002569342827.png)**工具**：该大模型支持应用调用外部工具时，例如，MCP服务、插件、知识库，可以选择该标签。 - ![](https://support.huaweicloud.com/usermanual-agentarts0/zh-cn_image_0000002538543036.png)**思考**：该大模型具备思维推理时，可以选择该标签。 - ![](https://support.huaweicloud.com/usermanual-agentarts0/zh-cn_image_0000002538383094.png)**联网**：该大模型具备联网搜索能力时，可以选择该标签。 | 工具 | | 是否支持关闭思维链输出 | 当"选择标签"选择了![](https://support.huaweicloud.com/usermanual-agentarts0/zh-cn_image_0000002538383134.png)**思考**时，才有此参数。 - 开启：模型在调测、使用时，显示"深度思考"参数。 在模型的调测和使用过程中，"深度思考"开关的生效情况如下： - 如果模型支持思维链输出能力，并且也支持关闭该能力，则开启、关闭均生效。 - 如果模型支持思维链输出能力，但不支持关闭该能力，则开启生效、关闭不生效。 - 如果模型不支持思维链输出能力，则开启、关闭均不生效。 - 关闭：模型在调测、使用时，不显示"深度思考"参数。默认**关闭** 。 模型在调测、使用时，是否输出思维链，取决于模型本身是否支持思维链输出。 | 关闭 | | 自定义标签 | 选填项。 最多支持添加5个标签。单击![](https://support.huaweicloud.com/usermanual-agentarts0/zh-cn_image_0000002538543046.png)，输入标签内容，按Enter键。 添加后，在应用中选择大模型时，显示在大模型右侧。 | - | | 模型服务描述 | 选填项。 模型服务的描述信息。由0\~1000个字符组成。 | - | 5. 单击"确定"。 新建的模型服务，显示在模型供应商下的模型服务卡片列表中，默认状态为"未发布"。 6. 在需要调测的模型服务卡片上，单击"![](https://support.huaweicloud.com/usermanual-agentarts0/zh-cn_image_0000002538383114.png) \> 调测"，具体调测操作请参考[调测模型](https://support.huaweicloud.com/usermanual-agentarts0/agentarts_05_0187.html)。 7. 在需要发布的模型服务卡片上，单击"![](https://support.huaweicloud.com/usermanual-agentarts0/zh-cn_image_0000002538383140.png) \> 发布"。 **模型服务卡片展示为"已发布"，才支持在智能体中使用。** 8. （可选）当已接入并发布多个同类型模型服务时，可配置模型路由策略实现模型故障自动切换，提升可用性。具体操作请参考[配置模型路由策略](https://support.huaweicloud.com/usermanual-agentarts0/agentarts_05_0194.html)。 #### 相关操作 在接入模型服务卡片列表，支持的其他操作请参考[表2]。 表2接入模型服务相关操作 | 操作 | 说明 | |:---|:---| | 查看模型服务信息 | 单击模型服务卡片，进入模型服务详情页，可以查看模型服务信息。 | | 修改模型服务信息 | 注意： 未发布的模型服务，才可以修改。 在需要修改的模型服务卡片上，单击"![](https://support.huaweicloud.com/usermanual-agentarts0/zh-cn_image_0000002538543060.png) \> 编辑"。 | | 取消发布 | 注意： 已发布的模型服务，才可以取消发布。 **未发布**的模型服务，不支持使用。 在需要取消发布的模型服务卡片上，单击"![](https://support.huaweicloud.com/usermanual-agentarts0/zh-cn_image_0000002569342843.png) \> 取消发布"。 | | 删除模型服务 | 注意： 已发布的模型服务，需要先取消发布，才能删除。 在需要删除的模型服务卡片上，单击"![](https://support.huaweicloud.com/usermanual-agentarts0/zh-cn_image_0000002569342805.png) \> 删除"。 | #### 相关文档 - 模型服务接入后，可以调测模型服务，具体操作请参考[调测模型](https://support.huaweicloud.com/usermanual-agentarts0/agentarts_05_0187.html)。 - 已接入并发布多个同类型模型服务时，可配置模型路由策略实现模型故障自动切换，提升可用性。具体操作请参考[配置模型路由策略](https://support.huaweicloud.com/usermanual-agentarts0/agentarts_05_0194.html)。 - 模型服务接入后，可以在智能体、工作流中使用模型服务，请参考[开发单智能体应用](https://support.huaweicloud.com/usermanual-agentarts0/agentarts_05_0011.html)、[开发工作流应用](https://support.huaweicloud.com/usermanual-agentarts0/agentarts_05_0040.html)、[开发多智能体应用](https://support.huaweicloud.com/usermanual-agentarts0/agentarts_05_0102.html)。