更新时间:2024-10-16 GMT+08:00
分享

使用“能力调测”调用模型

前提条件

使用能力调测调用模型之前,需要进行开通盘古大模型服务操作。

使用“能力调测”调用模型

能力调测通过图形化问答界面,提供了快速访问盘古大模型能力的入口。用户可以通过在“能力调测”页面选择调用基模型或训练后的模型。

训练后的模型需要“在线部署”且状态为“运行中”时,才可以使用本章节提供的方法进行调测,具体步骤请参见部署为在线服务

  • 文本补全:给定一个提示和一些参数,模型会根据这些信息生成一个或多个预测的补全。例如,让模型依据要求写邮件、做摘要总结、生成观点见解等。
  • 多轮对话:基于对话问答功能,用户可以与模型进行自然而流畅的对话和交流。
图1 使用能力调测
表1 能力调测参数说明

参数

说明

温度

用于控制生成文本的多样性和创造力。

核采样

控制生成文本多样性和质量。

最大口令限制

用于控制聊天回复的长度和质量。

话题重复度配置

用于控制生成文本中的重复程度。

词汇重复度控制

用于调整模型对频繁出现的Token的处理方式。

历史对话保留轮数

选择“多轮对话”功能时具备此参数,表示系统能够记忆的历史对话数。

相关文档