使用盘古预置NLP大模型进行文本对话

场景描述

此示例演示了如何使用盘古能力调测功能与盘古NLP大模型进行对话问答。您将学习如何通过调试模型超参数，实现智能化对话问答功能。

准备工作

请确保您有预置的NLP大模型，并已完成模型的部署操作，详见《用户指南》“开发盘古NLP大模型 > 部署NLP大模型 > 创建NLP大模型部署任务”。

操作流程

1. 登录ModelArts Studio大模型开发平台，进入所需空间。
2. 单击左侧“能力调测”，进入“文本对话”页签，选择服务与人设，参数设置为默认参数，在输入框输入问题，单击“生成”，模型将基于问题进行回答。
   图1 使用预置服务进行文本对话
   
3. 可以尝试修改参数以查看模型效果，示例如下：
   1. 将“核采样”参数调小，如改为0.1，保持其他参数不变，单击“重新生成”，再单击“重新生成”，可以看到模型前后两次回复内容的多样性降低。
      图2 “核采样”参数调小后生成结果1
      
      图3 “核采样”参数调小后生成结果2
      
   2. 将“核采样”参数调大，如改为1，保持其他参数不变，单击“重新生成”，再单击“重新生成”，可以看到模型前后两次回复内容的多样性提高。
      图4 “核采样”参数调大后生成结果1
      
      图5 “核采样”参数调大后生成结果2