盘古大模型 PanguLargeModels
盘古大模型 PanguLargeModels
- 功能总览
- 产品介绍
- 计费说明
- 快速入门
- 用户指南
- 最佳实践
- API参考
- SDK参考
-
常见问题
- 高频常见问题
- 大模型概念类
-
大模型微调训练类
- 无监督领域知识数据量无法支持增量预训练，如何进行模型学习
- 如何调整训练参数，使盘古大模型效果最优
- 如何判断盘古大模型训练状态是否正常
- 如何评估微调后的盘古大模型是否正常
- 如何调整推理参数，使盘古大模型效果最优
- 为什么微调后的盘古大模型总是重复相同的回答
- 为什么微调后的盘古大模型的回答中会出现乱码
- 为什么微调后的盘古大模型的回答会异常中断
- 为什么微调后的盘古大模型只能回答训练样本中的问题
- 为什么在微调后的盘古大模型中输入训练样本问题，回答完全不同
- 为什么微调后的盘古大模型评估结果很好，但实际场景表现很差
- 为什么多轮问答场景的盘古大模型微调效果不好
- 数据量足够，为什么盘古大模型微调效果仍然不好
- 数据量和质量均满足要求，为什么盘古大模型微调效果不好
- 大模型使用类
- 提示词工程类
- 文档下载
- 通用参考
本文导读
展开导读
链接复制成功！
创建插件
创建插件的步骤如下：
- 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。
- 在左侧导航栏中选择“Agent开发”，跳转至Agent开发平台。
- 单击左侧导航栏“工作台”，在“插件”页签，单击右上角“创建插件”。
- 在“创建插件”页面，填写插件名称与插件描述，单击图片可上传插件图标，单击“下一步”。
- 在“配置信息”页面，参照表1完成信息配置。
表1 插件信息配置说明 参数名称
参数说明
插件URL
插件服务的请求URL地址。
- URL协议只支持HTTP和HTTPS。
- 系统会校验URL地址是否为标准的URL格式。
- URL对应的IP默认不应为内网，否则会导致注册失败。仅在非商用环境部署时，才允许支持内网URL，且需要通过相关的服务的启动配置项关闭内网屏蔽。
请求方法
插件服务的请求方式，POST或GET。
权限校验
选择调用API时是否需要通过鉴权才可以调用。
请求头
填写API的请求头信息，例如：
- Key：Content-Type
- Value：application/json
图1 API请求信息配置示例
说明：
自定义插件使用HTTP服务，或不增加鉴权方式可能存在安全风险。
- 单击“下一步”，在“参数信息”页面，参照表2完成参数配置。
表2 插件参数配置说明 参数类型
参数名称
参数说明
请求参数
参数封装
开启后，会将请求参数封装为一个列表（数组）结构，可适配入参为数组格式的插件接口。
示例：原参数列表：{"a":"string", "b":1}，开启封装后的参数列表：[{"a":"string", "b":1}]
参数名称
参数的名称，参数名称会作为大模型解析参数含义的依据。
中文名称
该参数的中文名称。
参数类型
该参数值的数据类型，String、Integer、Number等多种类型支持选择。
位置
当前参数在请求信息中的位置，可选Body、Headers或Query。
默认值
参数的默认值。
描述
参数的描述，尽可能准确的描述参数的含义和要求，可提升Agent提取参数的准确率。
参数校验
可设置当前参数的校验规则。
必填
指定该参数是否为必填项。
响应参数
参数封装
开启后，会将请求参数封装为一个列表（数组）结构，可适配入参为数组格式的插件接口。
示例：原参数列表：{"a":"string", "b":1}，开启封装后的参数列表：[{"a":"string", "b":1}]
参数名称
响应参数的名称，参数名称会作为大模型解析大模型输出结果的依据。
参数描述
响应参数的名称，参数描述会作为大模型解析大模型输出结果的依据。
参数类型
该参数值的数据类型，String、Integer、Number等多种类型支持选择。
是否提取
开启后则该参数必须提取到，关闭则该参数允许为空或者使用默认值。
图2 填写API请求、响应参数
父主题： 创建与管理插件
