调测模型

前提矫健

已部署或接入模型服务，具体操作请参见创建及管理模型服务。

操作步骤

1. 在AI原生应用引擎工作台的左侧导航栏选择“模型中心 > 模型调测”。
2. 在“模型调测”页面，可调测文本对话类型模型、文本生图类型模型、图像理解类型模型、语音转文本类型模型、文本向量化类型模型。
   • 调测文本对话类型模型，具体操作如下：
     1. 在“模型类型”下选择“文本对话”并配置表1所示参数。

        表1 调测文本对话类型模型参数说明

        参数名称	参数说明
        模型服务	选择要调测的模型服务，在下拉列表可选我部署的、我接入的、平台预置模型或三方模型服务。
        输出方式	可选非流式、流式。二者区别如下： 非流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，大语言模型完整生成回答后一次性返回。 流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，逐个字词的快速返回模式，不用等待大语言模型生成完成。
        输入加输出最大token数	简称max_length，表示模型输入+输出的最大长度。
        温度	简称temperature，较高的数值会使输出更加随机，而较低的数值会使其更加集中和确定。建议该参数和“多样性”（top_p）只设置1个。
        多样性	简称top_p，影响输出文本的多样性，取值越大，生成文本的多样性越强。建议该参数和“温度”（temperature）只设置1个。
        存在惩罚	简称presence_penalty：介于-2.0和2.0之间的数字。正值会尽量避免重复已经使用过的词语，更倾向于生成新词语。
        频率惩罚	简称frequency_penalty，介于-2.0和2.0之间的数字。正值会尽量避免使用常见的单词和短语，更倾向于生成较少见的单词。

     2. 在右侧“效果预览”区域，可通过以下两种方式进行模型测试。
        • 在对话输入框输入测试语句后按Enter键或单击进行模型测试。
        • 单击“引用已有模板”，弹出“选择模板”面板，可通过分类筛选我创建的、我收藏的或平台预置的提示语模板，然后按Enter键或单击进行模型测试。
   • 调测文本生图类型模型，具体操作如下：
     1. 在“模型类型”下选择“文本生图”并配置表2所示参数。

        表2 调测文本生图类型模型参数说明

        参数名称	参数说明
        模型服务	选择要调测的模型服务，在下拉列表可选我部署的、我接入的、平台预置模型或三方模型服务。
        输入内容	输入你希望生成的图片内容。
        风格	选择生成的图片风格，可选“自然”或“超自然”。
        图片比例	默认1:1，无需配置。
        图片质量	选择标准或高清。
        选择图片尺寸	可选512*512、1024*1024。
        选择图片数量	设置生成图片的数量，可选数量为1~10。

     2. 单击“生成图片”，在右侧“效果预览”区域即可收到生成的图片。
   • 调测图像理解类型模型，具体操作如下：
     1. 在“模型类型”下选择“图像理解”并配置以下参数。
        • 模型服务：选择要调测的模型服务，在下拉列表可选我部署的、我接入的、平台预置模型或三方模型服务。
        • 上传图片：单击，可上传本地图片。
        • 提示语内容：描述需要知道图片中什么信息，例如：图片里有什么？
     2. 单击“生成图像理解”，在右侧“效果预览”区域即可收到信息解答。
   • 调测语音转文本类型模型，具体操作如下：
     1. 在“模型类型”下选择“语音转文本”并配置表3所示参数。

        表3 调测语音转文本类型模型参数说明

        参数名称	参数说明
        模型服务	选择要调测的模型服务，在下拉列表可选我部署的、我接入的、平台预置模型或三方模型服务。
        上传音频	单击“添加音频”，上传音频文件（只能上传MP3/AAC/WAV文件，且不能超过25MB）。
        语言	在下拉列表选择转换成的语言种类“中文”或“英文”，默认为音频文件原语言，可以做语言翻译任务。
        输出格式	可选格式包括： json verbose_json
        分段粒度	当“输出格式”为“verbose_json”时，需配置此参数。 可选包括： segment：较短的文本片段。 word：单个的中文汉字或英文单词。
        温度	temperature：较高的数值会使输出更加随机，而较低的数值会使其更加集中和确定。

     2. 单击“生成语音转文本”，在右侧“效果预览”区域即可收到生成的文本。
   • 调测文本向量化类型模型，具体操作如下：
     1. 在“模型类型”下选择“文本向量化”并配置以下参数。
        • 模型服务：选择要调测的模型服务，在下拉列表可选我部署的、我接入的、平台预置模型或三方模型服务。
        • 请输入文本，可参照以下示例输入文本。
          • 示例1：那是个快乐的人
          • 示例2： ["那是个快乐的人", "那是个高兴的人", "那是个忧郁的人"]
     2. 单击“生成向量化”，在右侧“效果预览”区域即可收到生成结果。