# 在MaaS体验文本对话 在使用MaaS进行模型测试时，用户常需快速验证模型的文本对话效果，但传统方法往往因配置复杂和准备时间长而难以满足这一需求。如何在保证准确性的同时，快速体验模型的文本对话效果？MaaS支持使用"预置服务"、"自定义接入点"进行在线文本对话，还支持对比同一文本对话模型的不同版本或不同模型，帮助您快速体验模型的文本对话效果，提高测试效率。 #### 约束限制 该功能仅支持"西南-贵阳一"区域。 #### 计费说明 使用预置服务、使用预置服务创建的自定义接入点进行文本对话，输入和输出会转化为Token计费。关于计费详情，请参见[MaaS文本模型计费项](https://support.huaweicloud.com/price-maas/price-maas-0002.html)。 #### 前提条件 - 使用预置服务：在"模型推理 \> 在线推理 \> 预置服务"页签，已开通预置服务。具体操作，请参见[使用预置服务](https://support.huaweicloud.com/model-call-maas/model-call-052.html#ZH-CN_TOPIC_0000002531190674)。 - 使用自定义接入点：在"模型推理 \> 在线推理 \> 自定义接入点"页签，已创建自定义接入点。具体操作，请参见[创建自定义接入点](https://support.huaweicloud.com/model-call-maas/model-call-048.html)。 #### 在线体验文本对话 1. 登录[MaaS控制台](https://console.huaweicloud.com/modelarts/#/model-studio/homepage)，在顶部导航栏中选择目标区域。 2. 任选以下方式进行模型体验。 - 方式一 1. 在左侧导航栏中，选择"模型体验 \> 文本对话"。 2. 在"文本对话"页面左上角单击![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002654167446.png)图标切换模型，在"预置服务"、"自定义接入点"页签，选择要体验的模型服务，单击"确定"。如下图所示： ![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002659814198.png "点击放大") - "预置服务"页签：选择目标服务及版本进行体验。模型列表中的模型包括：已开通模型和未开通模型。 如果选择已开通模型或者切换版本，单击"确认"，完成选择模型或者切换模型。 如果选择未开通模型，则弹出"开通模型服务"弹框。在弹框中确认"服务名称"、"版本"、"供给方式"、"计费方式"以及"费用评估"等信息后，阅读[《MaaS 模型即服务声明》](https://www.huaweicloud.com/declaration/modelartsstudio.html)后，勾选"我已阅读并同意上述说明，及《MaaS 模型即服务声明》"后，单击"确认"，完成选择模型或者切换模型。 图1开通模型服务 ![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002680578788.png "点击放大") - "自定义接入点"页签：选择状态为"使用中"的自定义接入点，单击"确认"，选择自定义接入点完成。 - 方式二 1. 在左侧导航栏中，选择"模型推理 \> 在线推理"。 2. 任选以下方式进入"文本对话"页面。 - 在"预置服务"页签，单击操作列的"更多 \> 在线体验"，选择版本，进入"文本对话"页面。 - 在"自定义接入点"页签：单击操作列的"在线体验"，进入"文本对话"页面。 - 方式三 - 选择左侧导航栏"模型广场"，进入"模型广场"页面，单击模型卡片上的"在线体验"按钮，直接进入"文本对话"页面。 3. （可选）在"文本对话"页面左上方，单击"模型参数"，弹出"参数设置"页面，如下图所示： 图2设置推理参数 ![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002473267238.png "点击放大") 根据[表1]中的参数说明，您可按需设置推理参数，体验不同的推理效果。如需恢复默认参数，单击"恢复默认"即可。 表1模型参数设置 | 参数 | 说明 | |:---|:---| | 温度/Temperature | 设置推理温度，**用于控制生成文本的随机性和创造性** ，**Temperature数值越大随机性越大。** - 数值较低，输出结果更加集中和确定。 - 数值较高，输出结果更加随机，更有创意性。 **取值范围**：0\~2 **默认值**：不同模型的默认值不同，请以实际环境为准。 | | 核采样/top_p | 设置推理核采样，**用于调整输出文本的多样性** 。**top_p数值越大，生成文本的多样性就越高。** - 数值较低，输出可选的tokens类型越少，更有确定性。 - 数值较高，输出可选的tokens类型越多，更有多样性。 **取值范围**：0.1\~1 **默认值**：不同模型的默认值不同，请以实际环境为准。 | | top_k | **用于控制输出tokens的多样性**。top_k值越大输出的tokens类型越丰富。选择在模型的输出结果中选择概率最高的前K个结果。 - 数值较低，输出可选的tokens类型越少，更有确定性。 - 数值较高，输出可选的tokens类型越多，更有多样性。 **取值范围**：1\~1000 **默认值**：20 详细解释：top_k可以设置保留概率最高的前K个tokens，从中随机抽取一个token作为最终输出。这种方法可以限制输出序列的长度，并仍然保持样本的一定多样性。 | 4. 在对话框中输入问题或者使用控制台提供的推荐词，查看返回结果，在线体验模型服务。 模型输出内容不代表平台观点，平台不保证其合法性、真实性、准确性，不承担相关责任。**输入和输出内容已默认开启内容审核。** 图3体验模型服务 ![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002515898597.png "点击放大") 在线体验功能相关操作说明如下： - 切换模型/版本：在模型名称右侧单击![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002555060145.png)图标，按需选择模型和版本，单击"确定"。 - 停止模型回答：在模型回答过程中，您可以在对话框单击![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002506679116.png "点击放大")图标，停止模型回答，停止后该对话不产生计费。 - 复制回答：对于生成的内容，您可以在模型对话框左下方，单击![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002515897383.png)图标复制回答。 - 重新生成回答：在模型对话框左下方，单击![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002554940187.png)图标重新生成回答。 - 开启新对话：在页面右上角，单击"开启新对话"，在对话框中单击"确定"。开启新对话将清除全部对话，无法保留对话记录。 - API调用：在页面右上角，单击"API调用"，可以查看模型的调用信息，请按照页面提示进行调用。详情请参考[文本生成](https://support.huaweicloud.com/model-list-maas/model_list_0001.html#section1)。 #### 模型对比 MaaS支持对比同一文本对话模型的不同版本或不同模型，最多可同时对比三个模型/版本。 1. 在"文本对话"页面右上角，单击"模型对比"。 "模型对比"按钮中会显示当前的模型对比个数，2/3表示当前已对比两个模型。再次单击"模型对比"，可增加模型对比个数。当模型对比数为3/3时，达到模型对比上限，"模型对比"按钮会置灰。 图4对比两个模型 ![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002554936503.png) 图5对比三个模型 ![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002523736720.png) - 切换模型/版本：MaaS会自动选择模型进行对比，您可以在模型名称右侧单击![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002555055517.png)图标，按需选择模型和版本，单击"确定"。 - API调用：在模型名称右侧，单击![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002555055713.png "点击放大")图标，可以查看模型的调用信息，请按照页面提示进行调用。关于API Key参数说明，请参见[创建API Key](https://support.huaweicloud.com/model-call-maas/model-call-049.html)；关于API调用的参数说明，请参见[对话Chat/Post](https://support.huaweicloud.com/model-call-maas/model-call-018.html)。 - 修改推理参数：在模型名称右侧，单击![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002523896456.png)图标，可以对温度/Temperature、核采样/top_p、top_k参数进行修改，获得更好的模型推理效果。关于参数说明，请参见[表1]。 - 关闭/新增对比模型：在模型名称右侧，单击![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002554936427.png "点击放大")图标，可以关闭该对比模型；单击"模型对比"，可以新增对比模型。 图6模型对比相关功能 ![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002693061627.png "点击放大") 2. 在对话框中输入问题或者使用控制台提供的推荐词，查看模型对比的效果。 图7查看模型对比效果 ![](https://support.huaweicloud.com/model-call-maas/figure/zh-cn_image_0000002555057679.png "点击放大") 如果您不想使用模型对比功能，可以在页面右上角，单击"退出对比"。