- 功能总览
- 产品介绍
- 计费说明
- 快速入门
- 用户指南
- 最佳实践
- API参考
- SDK参考
-
常见问题
- 大模型概念类问题
-
大模型微调训练类问题
- 无监督领域知识数据量无法支持增量预训练,如何进行模型学习
- 如何调整训练参数,使盘古大模型效果最优
- 如何判断盘古大模型训练状态是否正常
- 如何评估微调后的盘古大模型是否正常
- 如何调整推理参数,使盘古大模型效果最优
- 为什么微调后的盘古大模型总是重复相同的回答
- 为什么微调后的盘古大模型的回答中会出现乱码
- 为什么微调后的盘古大模型的回答会异常中断
- 为什么微调后的盘古大模型只能回答训练样本中的问题
- 为什么在微调后的盘古大模型中输入训练样本问题,回答完全不同
- 为什么微调后的盘古大模型评估结果很好,但实际场景表现很差
- 为什么多轮问答场景的盘古大模型微调效果不好
- 数据量足够,为什么盘古大模型微调效果仍然不好
- 数据量和质量均满足要求,为什么盘古大模型微调效果不好
- 大模型使用类问题
- 提示词工程类
- 文档下载
- 通用参考
本文导读
展开导读
链接复制成功!
创建插件
创建插件的步骤如下:
- 登录ModelArts Studio大模型开发平台,在“我的空间”模块,单击进入所需空间。
- 在左侧导航栏中选择“Agent开发”,跳转至Agent开发平台。
- 单击左侧导航栏“工作台”,在“插件”页签,单击右上角“创建插件”。
- 在“创建插件”页面,填写插件名称与插件描述,单击图片可上传插件图标,单击“下一步”。
- 在“配置信息”页面,参照表1完成信息配置。
表1 插件信息配置说明 参数名称
参数说明
插件URL
插件服务的请求URL地址。
- URL协议只支持HTTP和HTTPS。
- 系统会校验URL地址是否为标准的URL格式。
- URL对应的IP默认不应为内网,否则会导致注册失败。仅在非商用环境部署时,才允许支持内网URL,且需要通过相关的服务的启动配置项关闭内网屏蔽。
请求方法
插件服务的请求方式,POST或GET。
鉴权校验
插件服务的鉴权方式,支持以下三种:
- 无需鉴权:不使用鉴权时会存在安全风险。
- 用户级鉴权:通过验证用户身份来控制对个人数据的访问,通常使用Header或Query中的密钥参数(如Token)进行鉴权,适用于需要权限控制的场景,安全性较高。
- API Key鉴权:通过唯一的API Key来认证应用之间的访问权限,可以使用Header鉴权或Query鉴权的方式,需要提供密钥鉴权参数名和密钥值,安全性较低。
请求头
插件服务的请求头。添加请求的数据格式等说明,敏感信息请通过权限校验的方式实现。
说明:自定义插件使用HTTP服务,或不增加鉴权方式可能存在安全风险。
- 单击“下一步”,在“参数信息”页面,参照表2完成参数配置。
表2 插件参数配置说明 参数类型
参数名称
参数说明
请求参数
参数名称
参数的名称,长度为1 ~ 50个字符,参数名称会作为大模型解析参数含义的依据。
参数描述
参数的描述,长度为1 ~ 200个字符,参数描述会作为大模型解析参数含义的依据。
参数类型
该参数值的数据类型,当前支持三种类型。
- String:字符串类型
- Integer:四字节整型
- Number:八字节浮点数
请求方式
默认以Body方式请求。
是否必填
指定该参数是否为必填项。
- 打开开关:必填
- 关闭开关:非必填
默认值
参数的默认值,如果插件服务的入参生成缺失,默认值会在大模型解析时被使用。
响应参数
参数名称
响应参数的名称,长度为1 ~ 50个字符,参数名称会作为大模型解析大模型输出结果的依据。
参数描述
响应参数的名称,长度为1 ~ 200个字符,参数描述会作为大模型解析大模型输出结果的依据。
参数类型
该参数值的数据类型,当前支持三种类型。
- String:字符串类型
- Integer:四字节整型
- Number:八字节浮点数
是否必填
指定该参数是否为必填项。
- 打开开关:必填
- 关闭开关:非必填
父主题: 创建与管理插件