文档首页/ 盘古大模型 PanguLargeModels/ SDK参考/ 使用推理SDK
更新时间：2024-09-03 GMT+08:00
查看PDF
分享

使用推理SDK

安装SDK

使用SDK前，需要安装“huaweicloud-sdk-core”和“huaweicloud-sdk-pangulargemodels”。

请在SDK中心获取最新的sdk包版本，替换示例中版本。

表1 安装推理SDK

SDK语言

安装方法

Java

在您的操作系统中下载并安装Maven，安装完成后您只需要在Java项目的pom.xml文件中加入相应的依赖项即可。

<dependency>
    <groupId>com.huaweicloud.sdk</groupId>
    <artifactId>huaweicloud-sdk-core</artifactId>
    <version>3.1.103</version>
</dependency>
<dependency>
    <groupId>com.huaweicloud.sdk</groupId>
    <artifactId>huaweicloud-sdk-pangulargemodels</artifactId>
    <version>3.1.103</version>
</dependency>

Python

使用pip安装。

#回显Successfully installed xxx表示安装成功
# 安装核心库
pip install huaweicloudsdkcore
# 安装盘古服务库
pip install huaweicloudsdkpangulargemodels

Go

安装华为云Go SDK库。

// 安装华为云 Go SDK 库
go get -u github.com/huaweicloud/huaweicloud-sdk-go-v3

.NET

安装.NET SDK库

dotnet add package HuaweiCloud.SDK.Core
dotnet add package HuaweiCloud.SDK.PanguLargeModels

NodeJs

安装NodeJs库

npm install @huaweicloud/huaweicloud-sdk-core
npm i @huaweicloud/huaweicloud-sdk-pangulargemodels

在线生成SDK代码

API Explorer可根据需要动态生成SDK代码功能，降低您使用SDK的难度，推荐使用。

您可以在API Explorer中具体API页面的“代码示例”页签查看对应编程语言类型的SDK代码。

图1 获取SDK代码示例

当您在中间填充栏填入对应内容时， 右侧代码示例会自动完成参数的组装。

图2 设置输入参数

填写输入参数时，deployment_id为模型部署ID，可以在盘古大模型套件平台“服务管理”功能中获取。

图3 服务管理
图4 获取deployment_id

相关文档