更新时间:2024-12-03 GMT+08:00
分享

使用“能力调测”调用NLP大模型

平台提供的“能力调测”功能支持用户直接调用预置模型或经过训练的模型。使用该功能前,需完成模型的部署操作,详见创建NLP大模型部署任务

NLP大模型支持文本对话能力,在输入框中输入问题,模型就会返回对应的答案内容。

图1 调测NLP大模型
表1 NLP大模型能力调测参数说明

参数

说明

温度

用于控制生成文本的多样性和创造力。调高温度会使得模型的输出更多样性和创新性。

核采样

控制生成文本多样性和质量。调高核采样可以使输出结果更加多样化。

最大口令限制

用于控制聊天回复的长度和质量。

话题重复度控制

用于控制生成文本中的重复程度。调高参数模型会更频繁地切换话题,从而避免生成重复内容。

词汇重复度控制

用于调整模型对频繁出现的词汇的处理方式。调高参数会使模型减少相同词汇的重复使用,促使模型使用更多样化的词汇进行表达。

历史对话保留轮数

选择“多轮对话”功能时具备此参数。表示系统能够记忆的历史对话数。

相关文档