文档首页/ 盘古大模型 PanguLargeModels/ SDK参考/ 使用推理SDK
更新时间：2024-12-02 GMT+08:00
查看PDF
分享

使用推理SDK

安装SDK

使用SDK前，需要安装“huaweicloud-sdk-core”和“huaweicloud-sdk-pangulargemodels”。

请在SDK中心获取最新的sdk包版本，替换示例中版本。

表1 安装推理SDK

SDK语言

安装方法

Java

在您的操作系统中下载并安装Maven，安装完成后您只需要在Java项目的pom.xml文件中加入相应的依赖项即可。

<dependency>
    <groupId>com.huaweicloud.sdk</groupId>
    <artifactId>huaweicloud-sdk-core</artifactId>
    <version>3.1.103</version>
</dependency>
<dependency>
    <groupId>com.huaweicloud.sdk</groupId>
    <artifactId>huaweicloud-sdk-pangulargemodels</artifactId>
    <version>3.1.103</version>
</dependency>

Python

使用pip安装。

#回显Successfully installed xxx表示安装成功
# 安装核心库
pip install huaweicloudsdkcore
# 安装盘古服务库
pip install huaweicloudsdkpangulargemodels

Go

安装华为云Go SDK库。

// 安装华为云 Go SDK 库
go get -u github.com/huaweicloud/huaweicloud-sdk-go-v3

.NET

安装.NET SDK库

dotnet add package HuaweiCloud.SDK.Core
dotnet add package HuaweiCloud.SDK.PanguLargeModels

NodeJs

安装NodeJs库

npm install @huaweicloud/huaweicloud-sdk-core
npm i @huaweicloud/huaweicloud-sdk-pangulargemodels

在线生成SDK代码

API Explorer可根据需要动态生成SDK代码功能，降低您使用SDK的难度，推荐使用。

  1. 您可以在API Explorer中具体API页面的“代码示例”页签查看对应编程语言类型的SDK代码。

    图1 获取SDK代码示例

  2. 当您在中间填充栏填入对应内容时， 右侧代码示例会自动完成参数的组装。

    图2 设置输入参数

  3. 填写输入参数时，deployment_id为模型部署ID，获取方式如下：

    • 若调用部署后的模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“我的服务”页签，模型部署列表单击模型名称，在“详情”页签中，可获取模型的部署ID。
      图3 部署后的模型调用路径
    • 若调用预置模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“预置服务”页签，模型列表单击“调用路径”，获取该模型的部署ID。
      图4 预置模型的调用路径

相关文档