配置模型
通过DataArts智能助手配置功能,可以进行模型配置操作。
前提条件
- 在进行模型配置前,请确保已对接MaaS平台,并且已成功创建MaaS模型,并能够获取模型url和API key。
- 当前只有具备DAYU Administrator或Tenant Administrator账号权限的用户才可以创建、编辑、删除模型。
操作步骤
- 登录DataArts Studio管理控制台。
详情请参考访问DataArts Studio实例控制台。
- 在DataArts Studio控制台首页,选择对应工作空间的“数据开发”模块,进入数据开发页面。
- 在数据开发页面,单击
打开DataArts智能助手。 - 在DataArts智能助手的右上角,单击
选择“模型配置”。 图1 配置入口
- 单击“新增模型”,进入模型参数配置界面。
最多配置20个模型。
表1 配置模型参数 参数
说明
模型名称
输入模型名称。该模型名称为模型配置好以后,在智能助手问答界面所显示的模型名称。
仅支持中英文、数字、连字符和下划线。
模型url
输入模型url。
该参数是指模型调用时的API地址,您可前往MaaS平台单击左侧菜单“在线推理”进入“预置服务”,单击操作列的“调用说明”,选择所需版本,在调用说明页面获取url(即API地址),详细内容请参见获取模型列表Models/GET或MaaS标准API V2。
url输入示例:
http://192.168.1.1:8888/v1/infers/271c9332-4aa6-4ff5-95b3-0cf8bd94c394/v1/chat/completions
API key
输入API key。
在调用MaaS部署的模型服务时,需要填写API Key用于接口的鉴权认证。您可前往MaaS模型即服务平台单击左侧菜单“API Key管理”页面获取,详细内容请参见管理API Key。
模型
该参数是指实际调用的MaaS模型名称(即model参数就是模型名称)。目前仅deepseek、qwen、glm等模型支持参数差异化配置,其他模型使用系统默认的参数配置。系统支持通过模型关键字去匹配对应模型的配置参数。
您可前往MaaS平台的“在线推理”页面,选择调用的模型服务,单击操作列的“调用说明”,选择所需版本,在调用页面可以获取模型名称(即model参数就是模型名称)。
私有模型
开关默认关闭。关闭时该模型为实例级模型。开关打开时,该模型为私有模型。
系统默认为实例级模型,可供该实例下所有用户使用。若设置为私有模型,则该模型只有创建模型的当前空间可见。
添加配置参数(可选)
temperature
控制采样随机性的浮点数。较低的值使模型确定性更强,较高的值使模型随机性更强。
max_tokens
每个输出序列要生成的最大Tokens数量。
思考模式
开关开启后,模型通过思考能力,可以有效提升回答的质量和深度。默认关闭。
说明:当模型选择deepseek、qwen、glm模型时,支持思考模式功能。
联网搜索
开关开启后,模型调用API连接AI应用,获取可靠的网络知识。默认关闭。
Tavily AI是专为AI大语言模型设计的搜索引擎,能够提供实时、基于事实的搜索结果。模型会调用Tavily AI的联网搜索接口获取相关的信息。详细内容请参见基于DeepSeek API和Deep Research快速实现行业洞察。
说明:当模型选择qwen模型时,支持联网搜索功能。
- 模型参数配置完成后,单击“测试”,请先测试模型是否可用,如果测试通过会提示“测试通过,请单击提交”。模型通过测试后才能够提交。
- 测试成功后,单击“提交”,一个自定义模型就新增成功了。提交后在模型列表可查看创建的模型。 图2 模型列表
