盘古大模型 PanguLargeModels
盘古大模型 PanguLargeModels
- 功能总览
- 产品介绍
- 计费说明
- 快速入门
-
用户指南
- 盘古大模型服务ModelArts Studio大模型开发平台使用流程
- 准备工作
- 在模型广场查看模型
- 使用数据工程构建数据集
- 开发盘古NLP大模型
- 开发盘古CV大模型
- 开发盘古预测大模型
- 开发盘古科学计算大模型
- 开发盘古搜索规划模型
- 开发盘古向量&重排模型
- 开发盘古行业大模型
- 开发Deepseek大模型
- 开发图像搜索模型
- 开发提示词工程
- 开发Agent应用
- 管理空间资产
- 管理资源池
- 最佳实践
- API参考
- SDK参考
-
常见问题
- 高频常见问题
- 大模型概念类
-
大模型微调训练类
- 无监督领域知识数据量无法支持增量预训练,如何进行模型学习
- 如何调整训练参数,使盘古大模型效果最优
- 如何判断盘古大模型训练状态是否正常
- 如何评估微调后的盘古大模型是否正常
- 如何调整推理参数,使盘古大模型效果最优
- 为什么微调后的盘古大模型总是重复相同的回答
- 为什么微调后的盘古大模型的回答中会出现乱码
- 为什么微调后的盘古大模型的回答会异常中断
- 为什么微调后的盘古大模型只能回答训练样本中的问题
- 为什么在微调后的盘古大模型中输入训练样本问题,回答完全不同
- 为什么微调后的盘古大模型评估结果很好,但实际场景表现很差
- 为什么多轮问答场景的盘古大模型微调效果不好
- 数据量足够,为什么盘古大模型微调效果仍然不好
- 数据量和质量均满足要求,为什么盘古大模型微调效果不好
- 大模型使用类
- 提示词工程类
- 视频帮助
- 文档下载
- 通用参考
链接复制成功!
使用推理SDK
安装SDK
使用SDK前,需要安装“huaweicloud-sdk-core”和“huaweicloud-sdk-pangulargemodels”。
请在SDK中心获取最新的sdk包版本,替换示例中版本。
SDK语言 |
安装方法 |
---|---|
Java |
在您的操作系统中下载并安装Maven,安装完成后您只需要在Java项目的pom.xml文件中加入相应的依赖项即可。 <dependency>
<groupId>com.huaweicloud.sdk</groupId>
<artifactId>huaweicloud-sdk-core</artifactId>
<version>3.1.103</version>
</dependency>
<dependency>
<groupId>com.huaweicloud.sdk</groupId>
<artifactId>huaweicloud-sdk-pangulargemodels</artifactId>
<version>3.1.103</version>
</dependency> |
Python |
使用pip安装。 #回显Successfully installed xxx表示安装成功
# 安装核心库
pip install huaweicloudsdkcore
# 安装盘古服务库
pip install huaweicloudsdkpangulargemodels |
Go |
安装华为云Go SDK库。 // 安装华为云 Go SDK 库
go get -u github.com/huaweicloud/huaweicloud-sdk-go-v3 |
.NET |
安装.NET SDK库 dotnet add package HuaweiCloud.SDK.Core
dotnet add package HuaweiCloud.SDK.PanguLargeModels |
NodeJs |
安装NodeJs库 npm install @huaweicloud/huaweicloud-sdk-core npm i @huaweicloud/huaweicloud-sdk-pangulargemodels |
在线生成SDK代码
API Explorer可根据需要动态生成SDK代码功能,降低您使用SDK的难度,推荐使用。
- 您可以在API Explorer中具体API页面的“代码示例”页签查看对应编程语言类型的SDK代码。
图1 获取SDK代码示例
- 当您在中间填充栏填入对应内容时, 右侧代码示例会自动完成参数的组装。
图2 设置输入参数
- 填写输入参数时,deployment_id为模型部署ID,获取方式如下:
- 若调用部署后的模型,可在左侧导航栏中选择“模型开发 > 模型部署”,在“我的服务”页签,模型部署列表单击模型名称,在“详情”页签中,可获取模型的部署ID。
图3 部署后的模型调用路径
- 若调用预置模型,可在左侧导航栏中选择“模型开发 > 模型部署”,在“预置服务”页签,模型列表单击“调用路径”,获取该模型的部署ID。
图4 预置模型的调用路径
- 若调用部署后的模型,可在左侧导航栏中选择“模型开发 > 模型部署”,在“我的服务”页签,模型部署列表单击模型名称,在“详情”页签中,可获取模型的部署ID。