配置模型

前提条件

请联系系统管理员替租间开启LLM Engine特性。

操作步骤

1. 租间管理员登录客户服务云，进入“配置中心>机器人管理>大模型服务>系统管理>模型管理”下绑定模型。
2. 在大模型页签，单击“”按钮，进入新建模型界面。
   图1 新建模型
   

   参数	参数说明
   名称	用户自定义设置，建议与模型类型相关，便于后续使用。
   类型	根据实际业务选择对应模型
   版本	大模型版本，请自行设置。
   以azure_openai为例
   api_base	请求大模型的url
   api_key	作用: api_key 是一个用于身份验证的密钥，它在每次向 OpenAI 的 API 发送请求时都需要提供。这是确保只有授权用户能够访问 API 服务的关键。 获取方式: 要获取 api_key，您需要在 OpenAI 的官方网站上注册并创建一个账户。在您创建账户并登录后，您可以在 OpenAI 的用户控制台中找到您的 API 密钥。 安全性: api_key 是敏感信息，应妥善保管。不要在公共代码库或客户端代码中暴露您的 API 密钥。泄露 API 密钥可能导致不必要的费用和安全风险。
   api_version	作用: api_version 参数允许用户指定 API 请求应使用的版本。这在 API 进行版本更新时尤其重要，因为新的版本可能会引入新功能或变更现有功能。如果您希望使用特定版本的 API 或确保向后兼容性，设置 api_version 是必要的。 获取方式: API 版本信息通常可以在 OpenAI 的官方文档或发布说明中找到。API 版本可能会在 API 的 URL 路径中体现，或者在 API 的文档中提供具体的版本号信息。 设置方式: 在某些 API 客户端库或调用中，您可能需要在请求配置中明确指定 API 版本。例如，您可能会在请求的 URL 或请求头中设置版本号，或者在某些库的配置中设置 api_version。
   deployment_id	作用指定模型部署: deployment_id 用于指定一个特定的模型部署实例。这个参数通常用于在有多个模型或多个版本的部署时，明确选择一个具体的部署进行 API 调用。 模型管理: 在模型的管理和运维中，deployment_id 允许用户控制和引用不同的模型部署。这对于在生产环境中管理多个模型版本或进行模型的 A/B 测试非常重

3. 单击“保存”，大模型创建成功。