AI原生应用引擎使用流程

1

创建数据集

创建微调数据集/创建知识库数据集

用户根据需要创建微调数据集、知识库数据集，分别用于模型微调、创建知识库。

标注数据

用户可以将数据集中的某些元素进行标记或分类，以便模型可以更好地理解和使用这些数据。

2

创建提示语

选择平台预置提示语或自定义提示语

用户根据需要选择平台预置的提示语模板或自定义提示语模板，可在创建Agent、调测模型中快速引用。

优化提示语

针对提示语进行结构、排版、内容等维度的优化和改进，将大模型的输入限定在一个特定的范围中，进而更好地控制模型的输出。

3

创建模型服务

模型需要部署成功后才可正式提供模型推理服务，平台支持将微调后的模型、系统预置的模型以及通过自建模型服务接入的模型发布为模型服务。调测模型、应用调用均需先部署模型（即部署模型服务）。

4

创建知识库

自定义创建并管理知识库，创建的知识库启用后可在创建Agent时引用。

5

创建工具

用户根据实际需求可自主创建用于实现特定功能的模块或组件或选择系统预置的通用工具。

6

创建工作流

用户根据实际需求可自主创建工作流（一系列有序执行的工具，完成复杂任务的过程）或选择系统预置的通用工作流。

5

编排Agent

创建及发布Agent

将准备好的模型服务、提示语、知识库等编排Agent应用，以及将应用程序和相关的组件发布，使其能够正常运行。

1

创建数据集

创建微调数据集

用户根据需要创建微调数据集，用于模型微调。

标注数据

用户可以将数据集中的某些元素进行标记或分类，以便模型可以更好地理解和使用这些数据。

2

创建提示语

选择平台预置提示语或自定义提示语

用户根据需要选择平台预置的提示语模板或自定义提示语模板，可在创建Agent、调测模型中快速引用。

优化提示语

针对提示语进行结构、排版、内容等维度的优化和改进，将大模型的输入限定在一个特定的范围中，进而更好地控制模型的输出。

3

调优大模型

创建模型微调流水线

通过选择合适的数据集，调整参数，训练平台预置的模型以提高模型效果，可通过训练过程/结果指标初步判断训练效果。

创建模型服务

训练好的模型需要部署后才可提供推理服务（在线测试模型、应用调用均需先部署模型）。

调测模型

通过调测模型，检验模型的准确性、可靠性及反应效果，发现模型中存在的问题和局限性。

1

创建知识数据集

用户根据需要创建知识数据集，用于创建知识库。

2

创建知识库

自定义创建并管理知识库，创建的知识库启用后可在创建Agent时引用。