盘古大模型套件使用流程
盘古大模型套件平台是一款功能强大、集成度高的大模型开发与应用平台。该平台全面支持大模型的数据管理、清洗与配比,涵盖预训练与微调功能。此外,平台还提供了强大的模型部署、评估与调用功能,确保模型能够在生产环境中高效应用。平台支持提示词工程、AI助手及SDK开发,满足多样化业务需求,助力企业在大模型领域取得卓越成果。无论是开发、训练还是部署,盘古大模型套件平台均为用户提供一站式解决方案。
通过使用盘古大模型套件平台,您将体验从数据准备到模型应用的全流程一站式服务,将模型高效集成至您的业务流程中。接下来,将详细介绍该平台的使用流程,帮助您充分发挥盘古大模型套件平台的潜力。
![](https://support.huaweicloud.com/ugobs-obs-pangulm/zh-cn_image_0000002044521477.png)
流程 |
子流程 |
说明 |
操作指导 |
---|---|---|---|
准备工作 |
注册华为账号并开通华为云 |
在使用华为云服务之前您需要注册华为账号并开通华为云。 |
|
购买盘古大模型套件 |
购买盘古系列大模型及推理资产。 |
||
开通盘古大模型服务 |
开通大模型的文本补全、多轮对话能力。 |
||
配置授权/创建子用户 |
配置盘古访问OBS服务权限,多用户使用平台情况下需要创建子用户。 |
||
准备训练数据 |
创建一个新的数据集 |
创建一个新的数据集,用来管理上传至平台的训练或者评测数据。 |
|
数据集质量检测/数据清洗 |
对上传的数据进行质量检测,若质量有问题可以进行数据清洗。 |
||
发布数据集 |
对无质量问题的数据集执行发布操作。 |
||
创建一个训练数据集 |
通过数据配比组合多个数据集,创建出用于模型训练的数据集。 |
||
模型训练 |
自监督训练 |
使用不含有标记的数据进行模型训练。 |
|
有监督训练 |
使用含有标记的数据进行模型训练,以学习输入和输出之间的映射关系。 |
||
模型评估 |
创建模型评估任务 |
训练完成后评估模型的回答效果。 |
|
查看模型评估结果 |
查看模型评估指标和评估结果。 |
||
模型压缩 |
- |
通过模型压缩技术实现同等QPS目标下,降低推理显存占用。 |
|
模型部署 |
- |
对模型执行部署操作。 |
|
模型调用 |
使用“能力调测”调用模型 |
使用可视化的“能力调测”页面调用模型。 |
|
使用API调用模型 |
通过API编写代码方式调用模型。 |
||
提示词工程 |
- |
利用精心设计的提示词优化和引导大模型生成更加准确和相关的输出,提高模型在特定任务中的表现。 |
|
AI助手 |
- |
通过大模型搭建Agent应用,并结合多种工具,实现对话问答、规划推理和逻辑判断功能。 |
|
应用开发SDK |
- |
通过应用开发SDK提供的大模型调用、提示词模板、记忆、技能、智能代理等功能模块,快速开发大模型应用。 |