体验模型服务

前提条件

体验平台接入的第三方厂商模型服务前，需先进行鉴权设置。具体操作请参考对平台接入的第三方模型设置鉴权。

体验模型服务

1. 进入AI原生应用引擎。
2. 在AI原生应用引擎左侧导航栏选择“模型中心 > 我的模型服务”。
3. 在“模型服务”页面，选择“我的模型服务 > 我接入的 > 供应商模型”。单击供应商名称。
4. 在需要调测的模型对应的“操作”列下，单击“调测”。
5. 在“模型调测”页面，可调测如下几种类型的模型服务：
   • 文本对话
     1. 在“模型类型”区域选择“文本对话”，参数配置请参考表1。

        表1 文本对话类型模型参数说明

        参数	说明
        模型服务	默认展示所选的第三方厂商模型服务。 您也可以在下拉列表切换以下模型服务： 模型服务商API（平台接入的第三方厂商模型服务） 预置模型API（平台预置的模型服务） 我的模型API（用户自主接入的模型服务、用户自主部署的模型服务） 我的路由策略
        输出方式	可选非流式、流式。 非流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，大语言模型完整生成回答后一次性返回。 流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，逐个字词的快速返回模式，不需等待大语言模型生成完成。
        输出最大token数	模型在单次推理或生成内容时，能够输出的token（模型处理文本的基本单位）数量的最大值。取值范围为100~32768。
        温度	较高的数值会使输出更加随机，而较低的数值会使其更加集中和确定。建议该参数和“多样性”只设置1个。
        多样性	影响输出文本的多样性，取值越大，生成文本的多样性越强。建议该参数和“温度”只设置1个。
        存在惩罚	介于-2.0和2.0之间的数字。正值会尽量避免使用已出现过的词语，更倾向于生成新词语。
        频率惩罚	介于-2.0和2.0之间的数字。正值会尽量避免使用常见的单词和短语，更倾向于生成较少见的单词。
        内容安全监测配置	开关默认开启，可对输入及返回内容中的文本和图片进行安全监测，关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。

     2. 在右侧“效果预览”区域，可通过以下两种方式进行模型调测。
        • 在对话输入框输入测试语句后按Enter键或单击，查看模型响应结果。
        • 单击“引用已有提示语模板”或单击输入框上方的“提示语模板”，在弹出的面板中选择“我创建的”、“我收藏的”或“平台预置的”提示语模板，然后按Enter键或单击，查看模型响应结果。
   • 文本生图
     1. 在“模型类型”区域选择“文本生图”，参数配置请参考表2。

        表2 文本生图类型模型参数说明

        参数	说明
        模型服务	默认展示所选的第三方厂商模型服务。 您也可以在下拉列表切换其他模型服务商API（平台接入的第三方厂商模型服务）。
        输入内容	输入希望生成的图片内容。
        风格	选择生成的图片风格，可选自然或超自然。
        图片比例	默认1:1，无需配置。
        内容安全监测配置	开关默认开启，可对输入及返回内容中的文本和图片进行安全监测，关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。
        图片质量	选择标准或高清。
        选择图片尺寸	可选512*512、1024*1024。
        选择图片数量	设置生成图片的数量，可选数量为1~10。

     2. 单击“生成图片”，在右侧“效果预览”区域查看生成的图片。
   • 图像理解
     1. 在“模型类型”区域选择“图像理解”，配置表3所示参数。

        表3 图像理解类型模型参数说明

        参数	说明
        模型服务	默认展示所选的第三方厂商模型服务。 您也可以在下拉列表切换其他模型服务商API（平台接入的第三方厂商模型服务）、我的模型API（用户自主接入的模型服务）。
        上传图片	单击，可上传本地图片。支持上传JPG、PNG格式图片，且不能超过4MB。
        内容安全监测配置	开关默认开启，可对输入及返回内容中的文本和图片进行安全监测，关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。
        提示语内容	输入提示语，对图片进行提问，例如，图片里有什么？

     2. 单击“生成图像理解”，在右侧“效果预览”区域查看模型响应效果。
   • 语音转文本
     1. 在“模型类型”区域选择“语音转文本”，配置表4所示参数。

        表4 语音转文本类型模型参数说明

        参数	说明
        模型服务	默认展示所选的第三方厂商模型服务。 您也可以在下拉列表切换以下模型服务： 模型服务商API（平台接入的第三方厂商模型服务） 预置模型API（平台预置的模型服务）
        上传音频	单击“添加音频”，上传音频文件。支持上传MP3、AAC、WAV格式文件，且不能超过25MB。
        语言	在下拉列表选择转换成的语言种类，支持中文或英文，默认为音频文件原语言，可以做语言翻译任务。
        输出格式	可选格式包括： json verbose_json
        分段粒度	当输出格式为“verbose_json”时，需配置此参数。 可选包括： segment：较短的文本片段。 word：单个的中文汉字或英文单词。
        温度	较高的数值会使输出更加随机，而较低的数值会使其更加集中和确定。取值范围为0~1。
        内容安全监测配置	开关默认开启，可对输入及返回内容中的文本和图片进行安全监测，关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。

     2. 单击“生成语音转文本”，在右侧“效果预览”区域查看模型响应。
   • 文本向量化
     1. 在“模型类型”区域选择“文本向量化”，配置表5所示参数。

        表5 文本向量化类型模型参数说明

        参数	说明
        模型服务	默认展示所选的第三方厂商模型服务。 您也可以在下拉列表切换以下模型服务： 模型服务商API（平台接入的第三方厂商模型服务） 预置模型API（平台预置的模型服务） 我的模型API（用户自主接入的模型服务、用户自主部署的模型服务）
        请输入文本	输入待向量化的文本，可参照以下示例： 示例1：那是个快乐的人 示例2： ["那是个快乐的人", "那是个高兴的人", "那是个忧郁的人"]
        内容安全监测配置	开关默认开启，可对输入及返回内容中的文本和图片进行安全监测，关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。

     2. 单击“生成向量化”，在右侧“效果预览”区域查看模型响应效果。
   • 文本转语音
     1. 在“模型类型”区域选择“文本转语音”，配置表6所示参数。

        表6 文本转语音类型模型参数说明

        参数	说明
        模型服务	默认展示所选的第三方厂商模型服务。 您也可以在下拉列表切换其他模型服务商API（平台接入的第三方厂商模型服务）。
        音频格式	mp3
        音色类型	在下拉列表选择音色类型，单击“试听”，可以试听音色。
        速度	选择语速，取值范围为0.25~4，取值越大，语速越快。
        请输入文本	输入待转为语音的文本。
        内容安全监测配置	开关默认开启，可对输入及返回内容中的文本和图片进行安全监测，关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。

     2. 单击“文本生成语音”，在右侧“效果预览”区域查看模型响应效果。
   • 文本排序
     1. 在“模型类型”区域选择“文本排序”，配置表7所示参数。

        表7 文本排序类型模型参数说明

        参数名称	参数说明
        模型服务	默认展示所选的模型服务。 您也可以在下拉列表切换以下模型服务： 预置模型API（平台预置的模型服务） 我的模型API（用户自主接入的模型服务、用户自主部署的模型服务）
        待排序文本	输入待排序文本。单击添加文本，最多可以添加10条。
        被展示文本条数	文本排序完成后，展示的条数。取值范围为1~10。
        我的问题	描述想要解决的问题。
        内容安全监测配置	开关默认开启，可对输入内容中的文本和图片进行安全监测，关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。

     2. 单击“开始排序”，在右侧“效果预览”区域查看模型响应效果。

相关文档

模型调测时，无法选择模型服务商API是什么原因。