优化提示语

提示语简介

提示语是给大模型的指令。它可以是一个问题、一段文字描述，也可以是带有一堆参数的文字描述，用于在对话或文章中的一些简短的、不太明确的线索或暗示，推进引导对话的发展，或者增加故事的复杂性和深度。大模型会基于提示语所提供的信息，生成对应的文本或者图片。

通过对提示语进行结构、内容等维度的优化，将大模型的输入限定在一个特定的范围之中，进而更好地控制模型的输出，它通过提供清晰和具体的指令，引导模型输出生成高相关、高准确且高质量的文本对答内容，属于自然语言处理领域突破的重要部分。

提示语模板

AI资产中心的“提示语模板”页签中预置了多款提示语模板，用户可一键快速复制内容并收藏至自己的提示语管理中，这些模板是基于大量应用场景下的经验或者训练语料而总结出一些优质的提示语组成结构，将其抽离成为一种模板，支持一键快速复制内容、收藏、在线优化等功能。

用户创建的、收藏的以及平台预置的提示语模板都可在创建及管理应用、调测模型中快速引用。

前提条件

已创建提示语。

操作步骤

1. 在AI原生应用引擎工作台的左侧导航栏选择“知识中心 > 提示语优化”。
2. 在“在线调优”页面，参照表1进行参数配置。

   表1 提示语在线优化参数说明

   参数名称		参数说明
   变量标识符		可选择以下符号标识提示语内容中的变量。 大括号{} 双大括号{{}} 双中括号[[]] 中括号[] 小括号() 双小括号(())
   提示语内容		可通过以下两种方式定义提示语内容。 自定义提示语内容： 插值参数通过所选的变量标识符来填写定义，支持英文、数字、下划线（_）,不能以数字开头。 以变量标识符“双大括号{{}}”为例，提示语中的变量内容则填入双大括号{{}}中。 引用模板提示语内容： 单击输入框右侧的“引用模板”选择我创建的、我收藏的或平台预置的提示语模板。
   调测模型		将提示语应用于我创建的或平台预置的模型服务中，预览推理结果。

   单击“更多参数配置”，可配置调测模型的相关参数，如表2所示。

   表2 更多参数配置说明

   参数名称	参数说明
   输入加输出最大token数	简称max_length，表示模型输入+输出的最大长度。
   输出最大token数	简称max_new_tokens，表示模型输出的最大长度（即max_length减去输入的部分），设置该参数后则不需再设置“输入和输出最大token数”（max_length）。
   重复惩罚	简称repetition_penalty，使用通过对已生成的token增加惩罚，减少重复生成的现象，值越大表示惩罚越大。
   多样性	简称top_p，影响输出文本的多样性，取值越大，生成文本的多样性越强。建议该参数和“温度”（temperature）只设置1个。
   温度	简称temperature，较高的数值会使输出更加随机，而较低的数值会使其更加集中和确定。建议该参数和“多样性”（top_p）只设置1个。

3. 单击“获取推理结果”，可查看提示语应用于调测模型的测试结果。

   针对推理结果，用户可通过以下操作对提示语进行结构、排版、内容等维度进行优化和改进。

   • 单击“执行优化”，系统将对提示语模板进行首次优化。
   • 单击“重新优化”，系统将对提示语模板进行多轮优化。

4. 提示语内容优化达到需要结果后，单击“采纳”可将最终优化的提示语内容一键覆盖至提示语内容中；单击“复制”可复制最终优化的提示语内容，用户可自行根据需要使用。
5. 提示语内容优化达到期望目标后，单击“采纳”可将最终优化的提示语内容一键覆盖并替代原本的提示语内容；单击“复制”可复制最终优化的提示语内容，用户可自行根据需要使用。