使用“能力调测”调用模型
前提条件
使用能力调测调用模型之前,需要进行开通盘古大模型服务操作。
使用“能力调测”调用模型
能力调测通过图形化问答界面,提供了快速访问盘古大模型能力的入口。用户可以通过在“能力调测”页面选择调用基模型或训练后的模型。
训练后的模型需要“在线部署”且状态为“运行中”时,才可以使用本章节提供的方法进行调测,具体步骤请参见部署为在线服务。
- 文本补全:给定一个提示和一些参数,模型会根据这些信息生成一个或多个预测的补全。例如,让模型依据要求写邮件、做摘要总结、生成观点见解等。
- 多轮对话:基于对话问答功能,用户可以与模型进行自然而流畅的对话和交流。
参数 |
说明 |
---|---|
温度 |
用于控制生成文本的多样性和创造力。 |
核采样 |
控制生成文本多样性和质量。 |
最大口令限制 |
用于控制聊天回复的长度和质量。 |
话题重复度配置 |
用于控制生成文本中的重复程度。 |
词汇重复度控制 |
用于调整模型对频繁出现的Token的处理方式。 |
历史对话保留轮数 |
选择“多轮对话”功能时具备此参数,表示系统能够记忆的历史对话数。 |