创建AI助手
- 登录盘古大模型套件平台。
- 在左侧导航栏中选择“应用开发 > AI助手”,单击页面右上角“创建助手”。参考表1完成AI助手匹配。
表1 创建AI助手参数说明 参数分类
参数名称
参数说明
基本信息
助手名称
设置AI助手的名称。
描述
填写AI助手的描述,如填写功能介绍。
指令
通过指令可以设定A助手的行为和响应。如设置AI助手可以扮演的角色、指定可以访问的工具、设置结果的输出风格等。
模型配置
嵌入模型
用于对AI助手进行任务规划、工具选择和生成回复。
模型版本
选择与“嵌入模型”对应的版本。例如,嵌入模型为N2系列,则模型版本也为N2。
工具配置
网页搜索
开启网页搜索后,可以通过调用web搜索来解决模型对于事实类问题回答不好的现象。
添加一个工具
用于拓展AI助手功能,使其能够与外部系统进行交互。可以直接创建一个工具,或者从搜索框中选择已经创建好的工具。
知识库
通过知识库提升AI助手在特定领域问题的回答效果。
高级配置
工具召回策略
设置从所有可用工具中选择最相关的工具来处理用户的问题策略。
- 类型:使用词嵌入技术(embedding)来衡量用户问题与工具之间的相关性。
- 中断策略:当相关性得分小于设置的阈值,则不召回任何工具,终止后续流程。
- 阈值:指工具召回的相关性得分的阈值。阈值越高,召回工具的数量越少,但对召回工具的准确性要求更高。
- 多轮改写模型:对用户的问题进行多次改写,以增加召回内容的多样性。
- 检索工具数量:指在处理用户问题时,会检索出相关性最高的前N个工具。
历史信息处理策略
设置处理和利用用户历史对话信息的策略。
- 类型:对用户历史对话信息进行截断(truncation),用于控制传递给模型的上下文长度。
- 截断窗口大小:指在处理用户的历史对话信息时,系统会保留最近的N个对话传递给模型。
历史关键信息抽取
用于截取历史对话中的关键信息,将关键信息带入当前轮次的对话中。
该参数需要与工具配合使用,需要填入工具input_schema参数中API的请求参数。例如,在配置AI助手工具的代码示例中,创建预定会议室API的请求参数中有start,设置为start,即将会议的开始相关的信息作为关键信息,带入新轮次的对话中。
指令参数输入示例:
# 角色: 旅行规划助理 ## 简介 - 作者: pangu - 版本: 0.1 - 语言: 中文 - 描述: 我是一个旅行规划助理,能够帮助用户查询天气、预订车票,以及查询旅游地的风景人文。 ## 技能 ### 技能-1 1. 通过调用{tool_id}工具,查询目的地的天气信息。 ### 技能-2 1. 能够根据用户需求和偏好,帮助用户规划旅行路线。 2. 能够通过调用{tool_id}工具为用户提供最佳的旅行路线。 ### 技能-3 1. 能够解读和理解各种类型的旅行攻略文档。 2. 能够根据文档内容回答用户的旅行相关问题。 ## 规则 1. 在任何情况下都不要破坏角色。 2. 不要编造事实。 ## 初始化 身为一名旅行规划助手,我必须遵守规则,我必须用默认的语言和用户交谈,如果用户没有输入问题,我会介绍我自己和我的工作流程,等待用户的提问。
图1 创建AI助手 - 单击“立即创建”完成AI助手的创建工作。