创建提示语
提示语是给大模型的指令。它可以是一个问题、一段文字描述,也可以是带有一堆参数的文字描述,用于在对话或文章中的一些简短的、不太明确的线索或暗示,推进引导对话的发展,或者增加故事的复杂性和深度。大模型会基于提示语所提供的信息,生成对应的文本或者图片。
提示语模板
AI资产中心的“提示语模板”页签中预置了多款提示语模板,用户可一键快速复制内容并收藏至自己的提示语管理中,这些模板是基于大量应用场景下的经验或者训练语料而总结出一些优质的提示语组成结构,将其抽离成为一种模板,支持一键快速复制内容、收藏、在线优化等功能。
操作步骤
- 在AI原生应用引擎工作台的左侧导航栏选择“应用编排中心 > 我的提示语”。
- 在“我的提示语 > 我创建的”页面,单击右上角“创建提示语”。
- 在“创建提示语”页面,参照表1进行基础配置后,单击“下一步”。
表1 提示语基础配置参数说明 参数名称
参数说明
提示语名称
用户自定义提示语名称,命名要求:长度2~20,不能以下划线数字开头,只能由中文、字母、数字、下划线组成。
适用行业
提示语适用的行业领域,包括:
- 通用
- 政务
- 金融
- 交通
- 能源
- 教育
- 医疗
- 制造
- 零售
- 其他
适用任务类型
提示语适用的任务类型,包括:
- 对话问答
- 文案生成
- 多模生成
- 代码生成
- NL2SQL
- 功能调用
- 任务规划
- 全功能
标签
为提示语选择标签分类。可从以下几个维度选择(支持多选):
- 通用:适配模型(盘古、百川、千问、llama、chatglm、通用)、语言(中文、英文)
- 适用领域:对话问答、文案生成、多模生成、代码生成、NL2SQL、功能调用
- 行业:通用、政务、金融、交通、能源、教育
变量标识符
用户可选择以下符号标识提示语内容中的变量。
- 大括号{}
- 双大括号{{}}
- 双中括号[[]]
- 中括号[]
- 小括号()
- 双小括号(())
提示语内容
可通过以下两种方式定义提示语内容。
- 在“在线调优”页面,参照表2进行参数配置。
表2 提示语在线调优参数说明 参数名称
参数说明
变量标识符
可选择以下符号标识提示语内容中的变量。
- 大括号{}
- 双大括号{{}}
- 双中括号[[]]
- 中括号[]
- 小括号()
- 双小括号(())
提示语内容
可通过以下两种方式定义提示语内容。
调测模型
将提示语应用于我创建的或平台预置的模型服务中,预览推理结果。
单击“更多参数配置”,可配置调测模型的相关参数,如表3所示。
表3 调测模型更多参数配置说明 参数名称
参数说明
输入加输出最大token数
简称max_length,表示模型输入+输出的最大长度。
输出最大token数
简写为max_new_tokens,表示模型输出的最大长度(即max_length减去输入的那部分),设置了该参数就不用再设置“输入和输出最大token数”(max_length)。
重复惩罚
简写为repetition_penalty,使用通过对已生成的token增加惩罚,减少重复生成的现象,值越大表示惩罚越大。
多样性
简写为top_p,影响输出文本的多样性,取值越大,生成文本的多样性越强。建议该参数和“温度”(temperature)只设置1个。
温度
简写为temperature,较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定。建议该参数和“多样性”(top_p)只设置1个。
- 单击“获取推理结果”,可查看提示语应用于调测模型的测试结果。
针对推理结果,用户可通过以下操作对提示语进行结构、排版、内容等维度进行优化和改进。
- 单击“执行优化”,系统将对提示语模板进行首次优化。
- 单击“重新优化”,系统将对提示语模板进行多轮优化。
- 提示语内容优化达到需要结果后,单击“采纳”可将最终优化的提示语内容一键覆盖至提示语内容中;单击“复制”可复制最终优化的提示语内容,用户可自行根据需要使用。
- 单击“保存”,创建提示语完成,在“我创建的”页面的提示语列表中可看到新建的提示语模板。