应用平台 AppStage
应用平台 AppStage
- 最新动态
- 功能总览
- 产品介绍
- 计费说明
- 快速入门
- AppStage使用前准备
- AI原生应用引擎用户指南
- 开发中心用户指南
-
运维中心用户指南
- 运维中心简介
- 运维中心使用前准备
- 运维中心使用流程
- 进入运维中心
- 接入资源
- 部署应用
- 监控资源和应用
- 管理已纳管资源
- 管理运行时资源
- 管理工单
- 运营中心用户指南
- 最佳实践
- 开发指南
- API参考
- SDK参考
-
常见问题
- 权限管理
-
AI原生应用引擎
- 我创建的微调数据集会被其他用户调用去训练他们的大模型吗？
- 模型微调任务一直在等待中是什么原因？
- 大模型微调需要的数据有要求吗？
- AI原生应用引擎支持所有数据集进行数据标注吗？
- AI原生应用引擎中预置了哪些提示语？
- AI原生应用引擎训练好后的模型如何获取？
- 模型调测时，无法选择模型服务商API是什么原因？
- 我接入的模型需要满足什么要求才能在创建Agent时作为思考模型？
- Agent问答的时候报错“很抱歉，我的系统似乎遇到了一些故障问题，暂时无法为您提供服务”
- 自接入的模型在模型调测的时候报错是什么原因？
- 开源模型怎么部署？
- 平台有没有预置模型？
- 思考模型和问答模型的区别
- 工作流中知识库节点、LLM节点都需要配置实例，实例的API Key填什么?
- 工作流中工具节点的实例如何配置?
- 如何获取Agent发布时所需的API Key？
- 如何保证Agent每次问答都调用知识库?
- 工作流的返回是json格式，但是大模型会进行总结，如何以json格式直接输出?
- 如何在工作流中定制逻辑实现特定任务，比如时间格式转换、数组对象的push等
- 资产中心的工具怎么使用?
- Code代码节点的输入输出参数如何与其他节点进行交互和传递?
- Agent问答的时候没有回答
- 发布Agent的时候提示套餐校验失败
- 一站式创建Agent时如何取消选择默认模型，更换为其他模型
- 按照标题切分的时候，分段长度是什么意思?
- 工作流已启用，为什么在创建Agent时仍然无法选用？
- 如何通过调用Agent API将变量传递到工作流？
- 开发中心
- 运维中心部署服务
-
运维中心监控服务
- 如何查看EAP详细日志？
- 删除告警任务失败
- 告警后触发知识编排任务提示alert_type不存在
- 创建CES指标采集报错
- 如何卸载虚拟机上安装的filebeat？
-
异常检测Judge定时任务失败
- KeyError
- TypeError: not supported between instances of 'str' and 'float'
- TypeError("Cannot index by location index with a non-integer key")
- judge长时间处于SUBMIT状态直至失败
- fail to load model json
- judge日志无法查看，提示get request error
- judge日志大小1KB，且不刷新日志内容
- PSQLException: ERROR: invalid input syntax for type numeric
- PSQLException: ERROR: syntax error at or near
- too much null size
- judge_data_size(in):0
- ERROR - fail to load
- canceling statement due to user request
- 保存异常检测告警配置时报错
- 运维中心弹性资源服务
- 运维中心弹性网络服务
- 运维中心主机管理服务
- 运维中心微服务平台
-
运维中心负载均衡
-
SLB同步异常相关问题
- SSL_do_handshake() failed
- test nginx: nginx: [emerg] host not found in upstream "后端服务器名称" in /.../server...conf:17 nginx: .../nginx.conf test failed [FAILED
- no "ssl_certificate" is defined for the "listen ... ssl""
- no such file or directory......./ssl/dummy.pem
- test nginx: nginx: [alert] mmap(MAP_ANON|MAP_SHARED, 524288000) failed (12: Cannot allocate memory) nginx: [alert] munmap(FFFFFFFFFFFFFFFF, 524288000) failed
- duplicate value "error" in /opt/huawei/openresty/nginx/.../xxx.conf:40
- SLB同步检查不一致
- SLB一直同步，心跳异常
-
SLB部署失败相关问题
- FATAL Can't get local ip
- /etc/rc.d/init.d/functions: No such file or directory
- nginx is stopped
- will_upgrade\old_version:1.4.7
- Need to modify /etc/hosts,but no permission.
- system param fs.nr_open should not less than fs.file-max”or“system param net.ipv4.ip_local_port_range should >=30000
- some permission denied files in /opt/huawei/openresty/nginx/conf/
- Permission denied: '/opt/huawei/release/lf_test/SLB/
- install_slb_failed for /opt/huawei/openresty exists not for slb
- not all conf included in vhosts or slb_conf
- watchdog still running
- job 28e7241e42904334b failed
- [Service proxy.apply_sudo._wrapped_f]: fail to operator sudo,message: send request fail, status code: 400, error: None, message: illegal param\",\"status\":-2}
- some html not in /opt/huawei/openresty/nginx/html
- cannot access /opt/huawei/openresty/nginx/conf/ssl/sample/resty-auto-ssl-fallback.pem.Permission denined
- fail to operator sudo, message: send request fail, status code: 400, task: control sudo permission, status: failed
- some certificate not in /opt/huawei/openresty/nginx/conf/ssl
- crontab -l \n+ echo 'Permission denied crontab'
- 资源间绑定服务不一致
-
SLB同步异常相关问题
- 运维中心数据库治理
- 运维中心访问凭据管理服务
- 运营中心
- 管理控制台用户指南（即将下线）
- 业务控制台用户指南（即将下线）
-
运行时引擎用户指南（即将下线）
- AppStage运行时引擎简介
- AppStage运行时引擎使用前准备
- 进入AppStage运行时引擎
- 通过微服务平台管理微服务及相关资源
- 配置运行时引擎负载均衡
- 管理Cloud Map中的服务资源
- 配置运行时引擎数据库治理
- 配置访问凭据管理服务
- 文档下载
- 通用参考
链接复制成功！
创建模型微调任务
模型微调是指调整大型语言模型的参数以适应特定任务的过程，适用于需要个性化定制模型或者在特定任务上追求更高性能表现的场景。这是通过在与任务相关的微调数据集上训练模型来实现的，所需的微调量取决于任务的复杂性和数据集的大小。在深度学习中，微调用于改进预训练模型的性能。
支持将平台资产中心的部分模型作为微调前基础模型，也支持选择微调后的新模型作为基础模型再次进行微调。
前提条件
- 已订购大模型微调服务API在线调用-SFT局部调优，订购方法请参见购买AI原生应用引擎按需计费资源。
- 已具备格式为“对话文本”的微调数据集，具体请参考创建微调数据集或收藏预置微调数据集。
- 需要具备AI原生应用引擎管理员或开发者权限，权限申请操作请参见AppStage组织成员申请权限。
创建微调任务
- 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型微调流水线”，单击“创建微调任务”。
如果选择资产中心的模型作为基础模型，您也可以在左侧导航栏单击“资产中心”，选择“大模型”页签，将鼠标移至目标模型卡片并单击“微调”，进入任务创建页面。
- 选择“Functioncall能力增强微调”或“通用能力增强微调”。
- Functioncall能力增强微调：具备Functioncall能力的模型能够识别并执行函数调用或API调用，通过功能调用微调数据集增强模型的扩展性。
- 通用能力增强微调：广泛应用于各个领域，针对特定任务或行业需求，通过领域微调数据集增强模型领域能力。
- 在创建微调任务页面，参照表1配置基础信息、模型及数据。
表1 创建微调任务参数说明 参数名称
参数说明
基础信息
任务名称
自定义任务名称。支持英文、数字、中划线（-）、下划线（_），长度1-64个字符，仅支持字母或下划线开头。
任务描述(可选)
自定义任务相关的描述。
模型配置
微调前模型
在下拉列表中选择微调的模型或平台的模型。
训练模式
默认为“LoRA”。
LoRA（Low-Rank Adaptation）是一种轻量级大模型微调技术，通过低秩矩阵分解技术显著减少了微调所需的参数，降低了微调过程中所需的存储和计算资源，可灵活地运用于不同的预训练模型和任务。
微调后名称
自定义模型微调后的新名称。支持英文、数字、中划线（-）、下划线（_），长度1-64个字符，仅支持字母或下划线开头。
数据配置
选择微调数据集
单击“选择微调数据集”，选择“我创建的”或“我收藏的”数据集。
任务配置
资源池
选择执行任务的资源池，在下拉列表可以看到各资源池的可用卡数，根据实际情况选择。
- 单击“下一步”，分别参照表2和表3配置基础参数、LoRA参数。
- 单击“创建”。
新创建的微调任务显示在任务列表中，任务状态为“待启动”，请参考表4启用任务。
更多操作
创建微调任务完成后，可执行如表4所示的操作。
|
操作 |
说明 |
|---|---|
|
启用任务 |
|
|
停用任务 |
|
|
发布微调后的模型 |
微调任务执行完成后，可以将微调后的模型部署为模型服务，模型部署后才能进行模型调测以及在创建Agent时调用。 在模型微调流水线任务列表中，单击操作列的“发布”，当任务状态显示为“已发布”，表示模型部署完成。如果部署失败，任务状态显示为“发布失败”，您可以检查配置后重新发布。 |
|
查看任务详情 |
在模型微调流水线任务列表中，单击任务名称，查看任务的基础信息、参数信息、运行日志以及Loss曲线等详情，并支持对模型之间的关系进行溯源。 |
|
重新创建任务 |
|
|
删除任务 |
如果任务状态为“已发布”，需要先取消发布，才能删除。
|
父主题： 基于微调数据集进行模型微调
