调测/体验模型

前提条件

对平台接入的第三方模型进行调测前，需要先设置鉴权，具体操作请参见如何对平台接入的第三方模型服务设置鉴权。

调测模型

1. 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调测”。

   如果对资产中心的模型进行调测，您也可以在左侧导航栏单击“资产中心”，选择“大模型”页签，将鼠标移至目标模型卡片并单击“体验”，进入模型调测页面。

2. 在“模型调测”页面，可调测文本对话类型模型、文本生图类型模型、图像理解类型模型、语音转文本类型模型、文本向量化类型模型、文本转语言类型模型以及文本排序类型模型。
   • 调测文本对话类型模型，具体操作如下：
     1. 在“模型类型”下选择“文本对话”并配置表1所示参数。

        表1 调测文本对话类型模型参数说明

        参数名称	参数说明
        模型服务	选择待调测的模型服务，在下拉列表可选： 模型服务商API（平台接入的第三方模型） 预置模型API（平台预置的开源模型） 我的模型API（我部署的、我接入的） 我的路由策略
        输出方式	可选非流式、流式。二者区别如下： 非流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，大语言模型完整生成回答后一次性返回。 流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，逐个字词的快速返回模式，不需等待大语言模型生成完成。
        输出最大token数	表示模型输出的最大token数。
        温度	较高的数值会使输出更加随机，而较低的数值会使其更加集中和确定。建议该参数和“多样性”只设置1个。
        多样性	影响输出文本的多样性，取值越大，生成文本的多样性越强。建议该参数和“温度”只设置1个。
        存在惩罚	介于-2.0和2.0之间的数字。正值会尽量避免重复已经使用过的词语，更倾向于生成新词语。
        频率惩罚	介于-2.0和2.0之间的数字。正值会尽量避免使用常见的单词和短语，更倾向于生成较少见的单词。
        内容安全监测配置	当“输出方式”为“非流式”时，显示此参数。 选择是否打开开关，开启后，可对返回内容中的文本和图片进行安全监测。

     2. 在右侧“效果预览”区域，可通过以下两种方式进行模型调测。
        • 在对话输入框输入测试语句后按Enter键或单击进行模型调测。
        • 单击“引用已有提示语模板”，弹出“选择模板”面板，可通过分类筛选我创建的、我收藏的或平台预置的提示语模板，然后按Enter键或单击进行模型调测。
   • 调测文本生图类型模型，具体操作如下：
     1. 在“模型类型”下选择“文本生图”并配置表2所示参数。

        表2 调测文本生图类型模型参数说明

        参数名称	参数说明
        模型服务	选择要调测的模型服务，在下拉列表可选模型服务商API（平台接入的第三方模型服务）。
        输入内容	输入希望生成的图片内容。
        风格	选择生成的图片风格，可选“自然”或“超自然”。
        图片比例	默认1:1，无需配置。
        内容安全监测配置	选择是否打开开关。 开启后，可对返回内容中的文本和图片进行安全监测。
        图片质量	选择标准或高清。
        选择图片尺寸	可选512*512、1024*1024。
        选择图片数量	设置生成图片的数量，可选数量为1~10。

     2. 单击“生成图片”，在右侧“效果预览”区域即可收到生成的图片。
   • 调测图像理解类型模型，具体操作如下：
     1. 在“模型类型”下选择“图像理解”并配置以下参数。
        • 模型服务：选择要调测的模型服务，在下拉列表可选模型服务商API。
        • 上传图片：单击，可上传本地图片。
        • 内容安全监测配置：选择是否打开开关，开启后，可对返回内容中的文本和图片进行安全监测。
        • 提示语内容：描述需要知道图片中什么信息，例如：图片里有什么？
     2. 单击“生成图像理解”，在右侧“效果预览”区域即可收到信息解答。
   • 调测语音转文本类型模型，具体操作如下：
     1. 在“模型类型”下选择“语音转文本”并配置表3所示参数。

        表3 调测语音转文本类型模型参数说明

        参数名称	参数说明
        模型服务	选择要调测的模型服务，在下拉列表可选： 模型服务商API（平台接入的第三方模型） 预置模型API（平台预置的开源模型）
        上传音频	单击“添加音频”，上传音频文件（只能上传MP3/AAC/WAV文件，且不能超过25MB）。
        语言	在下拉列表选择转换成的语言种类“中文”或“英文”，默认为音频文件原语言，可以做语言翻译任务。
        输出格式	可选格式包括： json verbose_json
        分段粒度	当“输出格式”为“verbose_json”时，需配置此参数。 可选包括： segment：较短的文本片段。 word：单个的中文汉字或英文单词。
        温度	较高的数值会使输出更加随机，而较低的数值会使其更加集中和确定。
        内容安全监测配置	选择是否打开开关。 开启后，可对返回内容中的文本和图片进行安全监测。

     2. 单击“生成语音转文本”，在右侧“效果预览”区域即可收到生成的文本。
   • 调测文本向量化类型模型，具体操作如下：
     1. 在“模型类型”下选择“文本向量化”并配置以下参数。
        • 模型服务：选择要调测的模型服务，在下拉列表可选：
          • 模型服务商API（平台接入的第三方模型服务）
          • 预置模型API（平台预置的开源模型）
          • 我的模型API（我部署的、我接入的）
        • 请输入文本，可参照以下示例输入文本。
          • 示例1：那是个快乐的人
          • 示例2： ["那是个快乐的人", "那是个高兴的人", "那是个忧郁的人"]
     2. 单击“生成向量化”，在右侧“效果预览”区域即可收到生成结果。
   • 调测文本转语音类型模型，具体操作如下：
     1. 在“模型类型”下选择“文本转语音”并配置表4所示参数。

        表4 调测文本转语音类型模型参数说明

        参数名称	参数说明
        模型服务	选择要调测的模型服务，在下拉列表可选模型服务商API（平台接入的第三方模型服务）。
        音频格式	mp3
        音色类型	在下拉列表选择音色类型，单击“试听”，可以试听音色。
        速度	语速，参数范围：0.25-4，该值越大，语速越快。
        请输入文本	输入待转为语音的文本。

     2. 单击“文本生成语音”，在右侧“效果预览”区域即可收到生成结果。
   • 调测文本排序类型模型，具体操作如下：
     1. 在“模型类型”下选择“文本排序”并配置表5所示参数。

        表5 调测文本排序类型模型参数说明

        参数名称	参数说明
        模型服务	选择要调测的模型服务，在下拉列表可选： 预置模型API（平台预置的开源模型） 我的模型API（我部署的、我接入的）
        待排序文本	输入待排序文本。单击添加文本，最多可以添加10条。
        被展示文本条数	文本排序完成后，展示的条数。取值范围为1~10。
        我的问题	描述想要解决的问题。

     2. 单击“开始排序”，在右侧“效果预览”区域即可收到生成结果。