创建提示语

前提条件

需要具备AI原生应用引擎管理员或开发者权限，权限申请操作请参考AppStage组织成员申请权限。

创建提示语

1. 进入AI原生应用引擎。
2. 在AI原生应用引擎的左侧导航栏选择“知识中心 > 提示语”，单击“创建提示语”。
3. 在“创建提示语”页面，参照表1配置参数。

   表1 提示语基础配置参数说明

   参数	说明
   提示语名称	用户自定义提示语名称，支持中英文、数字、下划线（_），长度2-50个字符，以中英文、数字开头。
   适用行业	选择提示语适用的行业领域，包括： 交通 能源 制造 公共事业 金融 互联网 政务 通用行业
   适用任务类型	选择提示语适用的任务类型，包括： 对话问答 NL2SQL 多模生成 任务规划 文案生成 功能调用 代码生成 全功能
   标签	为提示语选择分类标签，便于快速检索与精细化管理。支持通过以下三个维度选择标签（支持多选），各维度下的细分标签以页面展示为准。 行业 适用领域 通用
   变量标识符	选择提示语中的变量标识符，包括： 大括号{} 双大括号{{}} 中括号[] 双中括号[[]] 小括号() 双小括号(())
   提示语内容	编写提示语内容，长度不超过11200个字符。 如果提示语中存在需动态替换的内容（如产品名称、用户称呼等），请使用所选的变量标识符标记变量。以变量标识符“大括号{}”为例，提示语示例如下： 假设{电视剧名称}有一个另类结局，你会如何设想这个结局？快来发挥你的想象，为这部经典电视剧创造一个独特的结局吧！ 单击“引用模板”，选择已创建的提示语或平台预置的提示语模板，对已有内容稍作修改，即可快速编写提示语。

4. 单击“创建”，在“我创建的”提示语列表中可看到新建的提示语模板。

   单击“下一步”，进入在线优化页面，请参考优化提示语优化提示语。

优化提示语

将提示语应用于模型服务中，基于大模型输出的语义准确性、内容质量及稳定性，对提示语效果进行验证。如果提示语未达到预期，用户可利用平台预置的大模型进行自动优化，生成最优版本的提示语。

1. 在“在线优化”页面，参照表2进行参数配置。

   表2 提示语在线优化参数说明

   参数	参数
   变量标识符	默认显示创建时选择的变量标识符，可根据需要进行调整。
   提示语内容	默认显示创建时填写的提示语内容，可根据需要进行调整。
   提示语内容中定义的变量	输入用于验证提示语效果的实际值。
   推理模型	选择模型服务，将提示语应用于模型服务并获取推理结果。可选的模型服务类型： 模型服务商API 预置模型API 我的模型API 我的路由策略 选择推理模型后，可配置模型服务的相关参数，如表3所示。

   表3 模型服务参数说明

   参数名称	参数说明
   最大token数	表示模型输出的最大长度。取值范围：1-10000。
   温度	较高的数值会使输出更加随机，而较低的数值会使其更加集中和确定。建议该参数和“多样性”只设置1个。取值范围：0-2.0。
   多样性	影响输出文本的多样性，取值越大，生成文本的多样性越强。建议该参数和“温度”只设置1个。取值范围：0-1.0。
   存在惩罚	正值会尽量避免使用已出现过的词语，更倾向于生成新词语。取值范围：-2.0-2.0。

2. 单击“获取推理结果”，可查看模型基于提示语生成的推理结果。
3. 单击“执行优化”，使用平台内置的大模型chatglm3-6b对提示语进行优化。
4. 查看优化后的提示语，可根据需要执行如下操作：
   • 采纳：单击“采纳”可将最终优化的提示语内容一键覆盖至提示语内容中。
   • 重新优化：如果优化后的提示语仍不满足需求，可单击“重新优化”。
   • 复制：单击“复制”即可复制优化后的提示语内容，用户可按需使用。

5. 单击“创建”，在“我创建的”提示语列表中可看到新建的提示语模板。

更多操作

创建提示语完成后，可执行如下表4所示的操作。

相关文档

提示语可在模型调测时引用，请参考体验模型服务。