AI原生应用引擎使用流程
参考编排Agent的流程、调优大模型的流程、创建知识库的流程可帮助您快速上手AI原生应用引擎的使用流程和核心功能。
编排Agent的流程
![点击放大](https://support.huaweicloud.com/usermanual-wiseagent/zh-cn_image_0000001941866586.png)
序号 |
流程环节 |
说明 |
|
---|---|---|---|
1 |
创建数据集 |
用户根据需要创建微调数据集、知识库数据集,分别用于模型微调、创建知识库。 |
|
用户可以将数据集中的某些元素进行标记或分类,以便模型可以更好地理解和使用这些数据。 |
|||
2 |
创建提示语 |
||
针对提示语进行结构、排版、内容等维度的优化和改进,将大模型的输入限定在一个特定的范围中,进而更好地控制模型的输出。 |
|||
3 |
模型需要部署成功后才可正式提供模型推理服务,平台支持将微调后的模型、系统预置的模型以及通过自建模型服务接入的模型发布为模型服务。调测模型、应用调用均需先部署模型(即部署模型服务)。 |
||
4 |
自定义创建并管理知识库,创建的知识库启用后可在创建Agent时引用。 |
||
5 |
用户根据实际需求可自主创建用于实现特定功能的模块或组件或选择系统预置的通用工具。 |
||
6 |
用户根据实际需求可自主创建工作流(一系列有序执行的工具,完成复杂任务的过程)或选择系统预置的通用工作流。 |
||
5 |
编排Agent |
将准备好的模型服务、提示语、知识库等编排Agent应用,以及将应用程序和相关的组件发布,使其能够正常运行。 |
调优大模型的流程
![点击放大](https://support.huaweicloud.com/usermanual-wiseagent/zh-cn_image_0000001941707286.png)
序号 |
流程环节 |
说明 |
|
---|---|---|---|
1 |
创建数据集 |
用户根据需要创建微调数据集,用于模型微调。 |
|
用户可以将数据集中的某些元素进行标记或分类,以便模型可以更好地理解和使用这些数据。 |
|||
2 |
创建提示语 |
||
针对提示语进行结构、排版、内容等维度的优化和改进,将大模型的输入限定在一个特定的范围中,进而更好地控制模型的输出。 |
|||
3 |
调优大模型 |
通过选择合适的数据集,调整参数,训练平台预置的模型以提高模型效果,可通过训练过程/结果指标初步判断训练效果。 |
|
训练好的模型需要部署后才可提供推理服务(在线测试模型、应用调用均需先部署模型)。 |
|||
通过调测模型,检验模型的准确性、可靠性及反应效果,发现模型中存在的问题和局限性。 |