提问器
提问器节点为开发者提供了收集用户问题所需信息的功能。
前提条件
已完成工作流搭建,如果未搭建工作流,请参考搭建工作流。
节点说明
该节点会循环执行,直到收集到所有必需的信息为止。
配置提问器节点
- 登录Versatile智能体平台,在左侧导航栏“个人空间”区域,选择进入所需空间。
如果已选择团队空间,界面显示为实际的团队空间名称,而非“个人空间”。
图1 选择团队空间 - 在左侧导航栏选择“开发中心 > 应用管理 > 工作流应用”,单击您创建的工作流。
- 单击“添加节点”并选择“提问器”节点。
- 通过单击该节点打开节点配置页面。
- 参照表1,完成提问器节点的配置。
- 单击
图标,可修改提问器节点名称,修改完成后单击名称旁边的
进行保存。
- 单击
图标,可重命名提问器节点名称,复制一个提问器节点或删除提问器节点。
- 单击
图标,可对提问器节点进行测试。
表1 提问器节点配置说明 配置类型
参数名称
参数说明
模式偏好
-
效果优先:效果优先模式下,会开启时间增强和反思功能,提参成功率更高,时延会增加。
- 时间增强:需要提取时间时,可以将自然语言的时间日期提取为YYYY-MM-DD HH:MM:SS标准格式的时间日期,比如:明天 12:30,提取为 2024-04-13 13:30:00。
- 反思功能:数据提取之后,会让模型再判断是否提取正确,格式是否满足要求,不满足会尽量做一些修正。比如:期望提取电话号码,用户输入:我不记得电话号码,提取出:189******,反思后会认为提取不正确,会继续追问
速度优先:速度优先模式下时延最低,提参成功率可能无法保障速度优先模式下不开启时间增强和反思功能。
模型配置
模型选择
选择执行此节点的模型,支持设置模型在此节点中的生成多样性等参数配置,使模型效果更符合你的预期。
提问器模型用于接收用户自然语言,提取用户配置的输出参数,效果优先时还用于提取结果反思和纠正。
温度
当单击
图标时,可进行该参数设置。
用于控制生成结果的随机性。调高温度,会使得模型的输出更具多样性和创新性;降低温度,会使输出内容更加遵循指令要求,但同时也会减少模型输出的多样性。
核采样
当单击
图标时,可进行该参数设置。
模型在输出时会从概率最高的词汇开始选择,直到这些词汇的总概率累积达到核采样值,核采样值可以限制模型选择这些高概率的词汇,从而控制输出内容的多样性。建议不要与温度同时调整。
最大回复长度
当单击
图标时,可进行该参数设置。
控制模型输出的Tokens长度上限。通常100Tokens约等于150个中文汉字。
参数配置
输入参数
设置需要添加到问题中的参数,参数值可以引用前置节点的输出参数,或设置为固定文本内容,可引用多个参数。
当单击
图标时,可新增输入参数。
输出参数
该参数用于解析大模型节点的输出,并提供给后续节点的输出参数引用,支持多参数提取。
当单击
图标时,可新增输出参数。
- 默认输出参数。
- 参数提取:开启后,可增加需要提取的参数,参数可配置属性如下:
- 参数名称:只允许输入字母、数字、下划线、短横线。
- 中文名称:不允许为空。
- 类型:输出参数的类型,可选String、Integer、Number、Boolean。
- 默认值:输出参数的默认值,大模型提取不到参数,并达到最大回复轮数时使用默认值。
- 描述:对于该输出参数的描述。
- 校验:开启后可自定义参数校验规则对输出参数规范性进行校验。规则包括参数名称、校验类型及校验规则。
- 提取:开启后该参数必须提取到或配置了默认值则使用默认值,关闭则该参数允许为空。
- 引用插件:参数提取可能是给插件使用,通过引用插件,可导入插件的参数信息及校验信息,提升配置效率。
问题配置
问题
该参数将在对话框中原样呈现给用户。如未配置此处,将由大模型根据输出参数描述,自动生成包含所有问题关键词的一个问题。
如:请问你的名字是什么。
可通过jinjia语法在问题中使用输入参数
如:请问你是哪个班级的,可选班级有{{classes}} ( classes先在input参数配置好)。
最大回复轮数
该参数用于设置与模型的最大交互次数,超过最大回复轮数还没有提取到参数则跳出提问器。
高级配置
允许用户退出交互
开启后,如果用户在与提问器的对话交互中,表达“中止对话”类的意图,系统会自动结束当前提问,并跳转至结束节点。
输出参数确认
开启后,如果用户希望提问器参数提取完毕后进行用户确认,则开启此功能。
提取约束
提供大模型额外的约束信息,用于更准确的提取参数,例如指定被提取参数的格式要求。
当单击
图标时,系统会弹出“提示词广场”窗口,可在“预制提示词”或“我的提示词”页签中进行选择。
举例:用户希望提取电话号码tel_number,约束里面可以写tel_number必须是11位数字。
追问模式
追问模式用来配置,在多次交互过程中,系统返回的参数追问语句生成模式。
- 默认:使用默认内置追问模板生成追问语句,每次追问内容相同。
- 智能追问:使用大模型生成语义良好,表达丰富的追问语句,每次追问内容丰富多变。
- 自定义追问:按照自定义模板配置生成追问语句。‘{unextracted_cn_field_names}’不可修改或删除。每次追问内容相同。
例如要提取名字和年龄参数
- 默认:请您提供名字,年龄相关的信息。
- 智能追问:您好,需要获取您的名字和年龄 (模型生成,内容不固定)。
- 自定义追问:(自定义追问模板配置为:请问你的如下信息:{unextracted_cn_field_names})。
请问你的如下信息:名字,年龄。
追问显示枚举值
开启后,如果参数设置了枚举值校验,将在提问器的追问中,提示设定的参数可选枚举值。
示例配置
给大模型一段预期的参数提取示例,增强大模型对参数提取场景的理解。模板:输入query:我要坐飞机去呼和浩特学习培训提取参数:{"location":"呼和浩特", "traveltool":"飞机"}
图2 提问器节点配置示例 - 单击
- 节点配置完成后,单击“确定”。
- 连接提问器节点和其他节点。