调用推理Target

前提条件

调用推理Target需进行入站和出站认证：

• 入站身份认证：调用方访问网关时的认证和鉴权，用于验证调用方身份并控制访问权限。详细说明请参考创建网关中的入站身份认证。
• 出站身份认证：网关访问后端服务时的身份认证，用于配置网关以特定身份访问后端资源。详情请参见创建推理Target中的出站认证。

请求路径格式

https://{gateway_endpoint}/inference/{path}

其中 {path} 为标准API路径，如 /v1/chat/completions、/v1/messages 等。关于支持的请求路径，请参见支持的操作路径。

gateway_endpoint获取方式：

1. 登录AgentArts智能体平台。

2. 在左侧导航栏选择“托管与运行 > 网关”，进入网关界面。
3. 单击网关名称，查看网关URL。
   图1 调用URL
   

API Key认证

当网关入站身份认证配置为API Key时，调用方需在请求头中携带API Key名称和对应的密钥值。

以下以API Key认证为例，调用OpenAI协议的文本对话接口：

POST https://{gateway_endpoint}/inference/v1/chat/completions HTTP/1.1      
Content-Type: application/json
{API_Key_Name}: {api_key_value}
{
    "model": "gpt-4",
    "messages": [
        {"role": "user", "content": "Hello, how are you?"}
    ]
}

IAM认证

当网关入站身份认证配置为IAM时，调用方需使用华为云IAM用户凭据进行签名认证，在请求头中携带Authorization签名信息。

以下以IAM认证为例，调用Anthropic协议的文本对话接口：

POST https://{gateway_endpoint}/inference/v1/messages HTTP/1.1
Content-Type: application/json
Authorization: SDK-HMAC-SHA256 Credential={access_key}/{date}/region/agentarts, SignedHeaders=host;x-sdk-date, Signature={signature}
{
    "model": "claude-3-opus",
    "messages": [
        {"role": "user", "content": "Hello, how are you?"}
    ]
}