添加模型服务

添加模型服务

1. 登录AgentArts智能体平台。
2. 在左侧导航栏选择“托管与运行 > 模型”，进入模型界面。
3. 单击已创建的模型提供商卡片上的“查看”或“创建模型提供商”，在“模型服务”区域，单击“添加模型服务”。
4. 输入模型服务的配置信息，参数说明请参考表1。

   表1 模型服务参数说明

   参数	说明
   模型服务名称	模型服务名称。 命名规则：支持中英文、数字及符号 _./-，须以中英文或数字开头结尾，长度2-64个字符。 系统会默认生成名称，可根据需求自定义修改。
   描述	用于说明该模型服务的内容与用途。长度不大于1000个字符。
   模型名称	模型名称，接口调用请求体中的model字段的取值。 由英文、数字及符号（连字符、点、下划线、星号、问号和@）组成，支持 * 的前缀通配以及后缀通配，长度为1-256个字符。例如：gpt-4、claude-3-opus、gpt-*。 模型名称支持通配匹配，用于灵活匹配客户端请求中的model字段。 精确匹配：模型名称与请求中的model字段完全一致时匹配。例如配置了model=gpt-4，请求model=gpt-4时匹配。 前缀通配：模型名称以 * 结尾时，匹配所有以指定前缀开头的模型。例如配置了model=gpt-*，请求model=gpt-4-turbo时匹配。 后缀通配：模型名称以 * 开头时，匹配所有以指定后缀结尾的模型。例如配置了model=*-turbo，请求model=gpt-4-turbo时匹配。 精确优先：当精确匹配和通配匹配同时可以匹配时，优先使用精确匹配。 说明： 通配匹配时，网关会将客户端请求体中的完整model值传递给后端，而不是通配符。例如配置了model=gpt-*，客户端请求model=gpt-4-turbo时，后端收到的model为gpt-4-turbo。
   API接口协议	选择 API 接口协议，支持以下三种： 标准OpenAI协议：兼容OpenAI API标准的协议。选择后，模型类型可选项为：文本对话/图像理解、多模态对话、文本向量化、文本排序、实时语音对话。 Anthropic协议：兼容Anthropic API标准的协议。选择后，模型类型可选项为：文本对话/图像理解、Token计数。 华为云MaaS标准API V1：华为云MaaS标准协议。选择后，模型类型可选项为：文本对话/图像理解、文本向量化、文本排序。
   模型类型	根据所选的API接口协议，选择模型类型。每种模型类型对应一个标准请求路径，请参考模型类型与请求路径。可勾选一个或多个模型类型。

5. 单击“确定”，完成模型服务的添加。

   添加完成后，模型服务将显示在模型提供商详情页面的“模型服务”表格中。

模型类型与请求路径

每种模型类型对应一个标准请求路径，网关根据模型类型自动路由推理请求。选择不同的 API 接口协议时，可选择的模型类型不同。

更多操作

模型服务创建完成后，您还可以执行如表3所示更多操作。