文档首页/ 盘古大模型 PanguLargeModels/ 用户指南/ 盘古大模型套件使用流程
更新时间:2024-09-03 GMT+08:00
分享

盘古大模型套件使用流程

盘古大模型套件平台是一款功能强大、集成度高的大模型开发与应用平台。该平台全面支持大模型的数据管理、清洗与配比,涵盖预训练与微调功能。此外,平台还提供了强大的模型部署、评估与调用功能,确保模型能够在生产环境中高效应用。平台支持提示词工程、AI助手及SDK开发,满足多样化业务需求,助力企业在大模型领域取得卓越成果。无论是开发、训练还是部署,盘古大模型套件平台均为用户提供一站式解决方案。

通过使用盘古大模型套件平台,您将体验从数据准备到模型应用的全流程一站式服务,将模型高效集成至您的业务流程中。接下来,将详细介绍该平台的使用流程,帮助您充分发挥盘古大模型套件平台的潜力。

图1 盘古大模型套件使用流程
表1 使用流程说明

流程

子流程

说明

操作指导

准备工作

注册华为账号并开通华为云

在使用华为云服务之前您需要注册华为账号并开通华为云。

注册华为账号并开通华为云

购买盘古大模型套件

购买盘古系列大模型及推理资产。

购买盘古大模型套件

开通盘古大模型服务

开通大模型的文本补全、多轮对话能力。

开通盘古大模型服务

配置授权/创建子用户

配置盘古访问OBS服务权限,多用户使用平台情况下需要创建子用户。

配置盘古访问授权

创建子用户并授权使用盘古

准备训练数据

创建一个新的数据集

创建一个新的数据集,用来管理上传至平台的训练或者评测数据。

创建一个新的数据集

数据集质量检测/数据清洗

对上传的数据进行质量检测,若质量有问题可以进行数据清洗。

检测数据集质量

清洗数据集(可选)

发布数据集

对无质量问题的数据集执行发布操作。

发布数据集

创建一个训练数据集

通过数据配比组合多个数据集,创建出用于模型训练的数据集。

创建一个训练数据集

模型训练

自监督训练

使用不含有标记的数据进行模型训练。

创建自监督微调训练任务

有监督训练

使用含有标记的数据进行模型训练,以学习输入和输出之间的映射关系。

创建有监督训练任务

模型评估

创建模型评估任务

训练完成后评估模型的回答效果。

创建模型评估任务

查看模型评估结果

查看模型评估指标和评估结果。

查看评估任务详情

模型压缩

-

通过模型压缩技术实现同等QPS目标下,降低推理显存占用。

压缩盘古大模型

模型部署

-

对模型执行部署操作。

部署盘古大模型

模型调用

使用“能力调测”调用模型

使用可视化的“能力调测”页面调用模型。

使用“能力调测”调用模型

使用API调用模型

通过API编写代码方式调用模型。

使用API调用模型

提示词工程

-

利用精心设计的提示词优化和引导大模型生成更加准确和相关的输出,提高模型在特定任务中的表现。

提示词工程

AI助手

-

通过大模型搭建Agent应用,并结合多种工具,实现对话问答、规划推理和逻辑判断功能。

AI助手

应用开发SDK

-

通过应用开发SDK提供的大模型调用、提示词模板、记忆、技能、智能代理等功能模块,快速开发大模型应用。

盘古应用开发SDK

相关文档