链接复制成功!
模型管理
模型管理可以新增、编辑、删除智能分析助手NL2SQL和智能见解所使用的模型,方便您配置智能分析助手时选择最适合业务场景的模型。
约束限制
模型管理需要具备管理员权限。
操作步骤
- 登录智能数据洞察控制台。
- 单击管理控制台左上角的
,选择区域,单击左下角的企业项目选择项目。
- 单击控制台左侧“模型与集群管理”,进入模型与集群管理界面。
- 单击“创建模型服务”,支持对接各种接口形式的模型,参数说明请参见表1。
图1 新增模型
表1 创建模型服务参数说明 参数
说明
示例
名称
设置模型的名称。只允许输入长度为1到64位由数字、中文、英文、下划线(_)或中划线(-)组成的字符,且开头和结尾不能有空格。
盘古大模型测试
模型类型
设置模型类型。
- 盘古大模型(云底座):盘古大模型服务购买部署的大模型。
- 开源大模型(昇腾云):昇腾云服务部署的开源大模型。
- 开源大模型(裸机):自定义裸机部署的开源大模型。
- 盘古大模型(裸机):裸机部署的盘古大模型。
盘古大模型(云底座)
模型名称
调用时的模型名称,开源大模型必填。在ModelArts Studio大模型即服务平台的“模型部署”页面,选择调用的模型服务,单击操作列的“更多 > 调用”,在调用页面可以获取“模型名称”。
Qwen2-7B
任务类型
当前接入模型可应用的任务类型。任务类型:NL2SQL、智能见解
NL2SQL、智能见解
接入网络类型
模型网络接入方式。
- 公网:需模型地址为公网域名或IP地址,可直接访问。
- 终端节点服务:通过vpcEp打通DataArtsInsight与大模型之间的网路,多用于大模型裸机部署场景。
公网
访问地址
大模型问答访问地址。
https://test.com/v1/infers/gpt/query?endpoint=infer-app
认证类型
IAM认证
租户名:华为云租户名称,即主账号名称。
用户名:用户名称,即拥有大模型访问权限用户名称。
密码:用户登录密码。
项目名称:华为云项目名称。
租户名:domain_name
用户名:sub_user_name
密码:password
项目名称:cn-north-4
AKSK认证
AK:访问秘钥ID。
SK:访问密码。
项目名称:华为云项目名称。
AK:test
SK:test
项目名称:cn-north-4
AppCode认证
AppCode:API网关访问场景,对应应用的AppCode。
yourAppCode
委托认证
账户名称:委托方账户名称。
委托名称:委托方创建的委托名。
项目名称:华为云项目名称。
账户名称:domain_name
委托名称:agency_name
项目名称:cn-north-4
自定义认证
标头键:请求头key。
标头值:请求头value。
标头键:X-Test-Header
标头值:testHeader
- 参数设置完成后,单击“连通性测试”,测试通过后单击“确认”,模型创建成功。
说明:
单击“NL2SQL默认模型”、“智能见解默认模型”下拉菜单可以设置默认模型。设置完成后,新建智能分析助手NL2SQL、智能见解所使用的模型将自动使用选择的默认模型。