提问器节点
提问器节点为开发者提供了收集用户问题所需信息的功能。该节点会循环执行,直到收集到所有必需的信息为止。
提问器节点为可选节点,若无需配置,可跳过该步骤。
提问器节点配置步骤如下:
- 拖动左侧“提问器”节点至画布中,单击该节点以打开节点配置页面。
- 参照表1,完成提问器节点的配置。
表1 提问器节点配置说明 配置类型
参数名称
参数说明
模式偏好
-
效果优先:效果优先模式下,会开启时间增强和反思功能,提参成功率更高,时延会增加。
- 时间增强:需要提取时间时,可以将自然语言的时间日期提取为YYYY-MM-DD HH:MM:SS标准格式的时间日期,比如:明天 12:30,提取为 2024-04-13 13:30:00
- 反思功能:数据提取之后,会让模型再判断一下是否提取正确,格式是否满足要求,不满足会尽量做一些修正。比如:期望提取电话号码,用户输入:我不记得电话号码,提取出:189******,反思后会认为提取不正确,会继续追问
速度优先:速度优先模式下时延最低,提参成功率可能无法保障,速度优先模式下不开启时间增强和反思功能。
模型配置
模型选择
选择执行此节点的模型,支持设置模型在此节点中的生成多样性等参数配置,使模型效果更符合你的预期。
提问器模型用于接收用户自然语言,提取用户配置的输出参数,效果优先时还用于提取结果反思和纠正。
核采样
模型在输出时会从概率最高的词汇开始选择,直到这些词汇的总概率累积达到核采样值,核采样值可以限制模型选择这些高概率的词汇,从而控制输出内容的多样性。建议不要与温度同时调整。
温度
用于控制生成结果的随机性。调高温度,会使得模型的输出更具多样性和创新性;降低温度,会使输出内容更加遵循指令要求,但同时也会减少模型输出的多样性。
参数配置
输入参数
设置需要添加到问题中的参数,参数值可以引用前置节点的输出参数,或设置为固定文本内容,可引用多个参数。
输出参数
该参数用于解析大模型节点的输出,并提供给后续节点的输入参数引用,支持多参数提取。
- 默认输出参数。
- 参数提取:开启后,可增加需要提取的参数,参数可配置属性如下:
- 参数名称:只允许输入字母、数字、下划线、短横线。
- 中文名称:不允许为空。
- 类型:输出参数的类型,可选String、Integer、Number、Boolean。
- 默认值:输出参数的默认值,大模型提取不到参数,并达到最大回复轮数时使用默认值。
- 描述:对于该输出参数的描述。
- 校验:开启后可自定义参数校验规则对输出参数规范性进行校验。规则包括参数名称、校验类型及校验规则。
- 提取:开启后该参数必须提取到或配置了默认值则使用默认值,关闭则该参数允许为空。
- 引用插件:参数提取可能是给插件使用,通过引用插件,可导入插件的参数信息及校验信息,提升配置效率。
问题配置
问题
该参数将在对话框中原样呈现给用户。如未配置此处,将由大模型根据输出参数描述,自动生成包含所有问题关键词的一个问题。
如:请问你的名字是什么。
可通过jinjia语法在问题中使用输入参数
如:请问你是哪个班级的,可选班级有{{classes}} ( classes先在input参数配置好)
最大回复轮数
该参数用于设置与模型的最大交互次数,超过最大回复轮数还没有提取到参数则跳出提问器。
高级配置
允许用户退出交互
开启后,若用户在与提问器的对话交互中,表达“中止对话”类的意图,系统会自动结束当前提问,并跳转至结束节点。
提取参数完毕需要用户确认
开启后,若用户希望提问器参数提取完毕后进行用户确认,则开启此功能。
提取约束
提供大模型额外的约束信息,用于更准确的提取参数,例如指定被提取参数的格式要求。
举例:用户希望提取电话号码tel_number,约束里面可以写tel_number必须是11位数字
追问模式
追问模式用来配置,在多次交互过程中,系统返回的参数追问语句生成模式。
- 默认:使用默认内置追问模板生成追问语句,每次追问内容相同。
- 智能追问:使用大模型生成语义良好,表达丰富的追问语句,每次追问内容丰富多变。
- 自定义追问:按照自定义模板配置生成追问语句。‘{unextracted_cn_field_names}’不可修改或删除。每次追问内容相同。
例如要提取名字和年龄参数
- 默认:请您提供名字,年龄相关的信息。
- 智能追问:您好,我们需要获取您的名字和年龄 (模型生成,内容不固定)
- 自定义追问:(自定义追问模板配置为:请问你的如下信息:{unextracted_cn_field_names})
请问你的如下信息:名字,年龄
示例配置
给大模型一段预期的参数提取示例,增强大模型对参数提取场景的理解。
模版:
输入query:我要坐飞机去呼和浩特学习培训
提取参数:{"location":"呼和浩特", "traveltool":"飞机"}
-
外部API改写
开启后,在调用大模型问答前将调用外部API完成对用户输入问题进行改写,改写API需满足如下要求:
1、POST请求且无需鉴权认证相关信息。
2、输入body体只包含text字段,例如: {"text": "需要改写的内容"}。
3、返回的结构体只包含text字段,例如:{"text": "改写后的内容"}。
图1 提问器节点配置示例 - 节点配置完成后,单击“确定”。
- 连接提问器节点和其他节点。