配置模型

更新时间：2025-01-20 GMT+08:00

查看PDF

LLMEngine提供了多种市场通用模型供用户选择，用户可根据实际业务和预算选择模型。

前提条件

请联系系统管理员替租间开启LLM Engine特性。

操作步骤

租间管理员登录客户服务云，进入“配置中心>机器人管理>大模型服务>系统管理>模型管理”下绑定模型。

在大模型页签，单击“

”按钮，进入新建模型界面。

图1 新建模型

参数	参数说明
名称	用户自定义设置，建议与模型类型相关，便于后续使用。
类型	根据实际业务选择对应模型
版本	大模型版本，请自行设置。
以azure_openai为例
api_base	请求大模型的url
api_key	作用: api_key 是一个用于身份验证的密钥，它在每次向 OpenAI 的 API 发送请求时都需要提供。这是确保只有授权用户能够访问 API 服务的关键。获取方式: 要获取 api_key，您需要在 OpenAI 的官方网站上注册并创建一个账户。在您创建账户并登录后，您可以在 OpenAI 的用户控制台中找到您的 API 密钥。安全性: api_key 是敏感信息，应妥善保管。不要在公共代码库或客户端代码中暴露您的 API 密钥。泄露 API 密钥可能导致不必要的费用和安全风险。
api_version	作用: api_version 参数允许用户指定 API 请求应使用的版本。这在 API 进行版本更新时尤其重要，因为新的版本可能会引入新功能或变更现有功能。如果您希望使用特定版本的 API 或确保向后兼容性，设置 api_version 是必要的。获取方式: API 版本信息通常可以在 OpenAI 的官方文档或发布说明中找到。API 版本可能会在 API 的 URL 路径中体现，或者在 API 的文档中提供具体的版本号信息。设置方式: 在某些 API 客户端库或调用中，您可能需要在请求配置中明确指定 API 版本。例如，您可能会在请求的 URL 或请求头中设置版本号，或者在某些库的配置中设置 api_version。
deployment_id	作用指定模型部署: deployment_id 用于指定一个特定的模型部署实例。这个参数通常用于在有多个模型或多个版本的部署时，明确选择一个具体的部署进行 API 调用。模型管理: 在模型的管理和运维中，deployment_id 允许用户控制和引用不同的模型部署。这对于在生产环境中管理多个模型版本或进行模型的 A/B 测试非常重

单击“保存”，大模型创建成功。

父主题： 准备工作

上一篇：准备工作

下一篇：基于大模型座席助手

意见反馈

文档内容是否对您有帮助？

有帮助没帮助

提供反馈

提交成功！非常感谢您的反馈，我们会继续努力做到更好！

系统繁忙，请稍后重试

在使用文档中是否遇到以下问题

内容与产品页面不一致

内容不易理解

缺失示例代码

步骤不可操作

搜不到想要的内容

缺少最佳实践

意见反馈（选填）

0/500

请至少选择一项反馈信息并填写问题反馈

字符长度不能超过500

直接提交取消