模型调用功能介绍

约束限制

仅“西南-贵阳一”区域的新版控制台支持。

预置模型介绍

ModelArts平台提供了丰富的开源大模型，在ModelArts管理控制台“资产管理 > 模型 > 预置模型”页面可以查看支持的模型及相关信息。单击模型卡片，在“模型详情”页面可以查看模型的详细介绍，例如模型的基本信息、支持的能力、推理特性等。您可以根据这些信息选择合适的模型进行训练、推理，接入到企业解决方案中。

图1 预置模型页面

图2 模型详情页面

文本生成模型

ModelArts集成了Qwen、DeepSeek、GLM、GPT-OSS类通用大语言模型，模型能力如下所示。

图像理解模型

开始模型调用

在ModelArts平台部署模型后，可以使用模型提供的API接口完成模型调用。您可以在获取到API Key后，使用Curl或代码调用模型API完成推理。调用步骤如下：

1. 获取API Key。
   1. 在ModelArts管理控制台“模型推理 > 在线推理”页面，单击“API Key授权管理”。
   2. 在“API Key授权管理”页签右上角，单击“创建API Key”，填写API Key的名称、描述，按需选择授权范围，单击“确定”。

      创建API Key后自动下载API Key，后续暂不支持手动下载，请妥善保管。

      • 如果授权范围选择“指定在线服务”，请执行下一步的绑定操作。
      • 如果授权范围选择“全部在线服务”，请跳过下一步的绑定操作。
   3. （可选）在“API Key授权管理”页签，单击API Key操作列的“绑定”，选择API Key要绑定的模型服务，单击“确定”。
2. 获取访问地址。

   本文部署时默认使用了共享网关。部署完成后，可以在服务详情页获取调用所需的访问地址和Token。

   • 在线服务调用地址：在ModelArts管理控制台“模型推理>在线推理”页面，单击已部署完成的服务，进入详情页，在“网络配置”区域获取服务的“公网调用URL”。
   • 大模型请求URL：Qwen3-32B模型的请求URL为/v1/chat/completions。更多模型请求URL请见上文模型列表中“请求URL”配置URL名称。

3. 使用Curl或Python进行调用。

   参照该步骤代码，部署好的模型仅需要简单修改调用API的完整URL、模型参数和API Key即可完成推理。修改参数说明如下：

   • 推理API的URL：组合方式为“公网调用URL+大模型请求URL”。获取方式参考步骤2。
   • API Key：获取步骤参考步骤1。
   • 模型参数：上文模型列表的“model参数”即为需要调用的模型参数。下文以qwen3_32b为例，您可以按需修改。

   Python

   import requests
   import json
   
   if __name__ == '__main__':
       url = "https://***/v2/infer/***/v1/chat/completions"  # 在线服务的调用地址=公网调用URL+ 大模型请求URL
       api_key = "API_KEY"  # 把API_KEY替换成已获取的API Key
   
       # Send request.
       headers = {
           'Content-Type': 'application/json',
           'Authorization': f'Bearer {api_key}'
       }
       data = {
           "model": "qwen3_32b",  # model参数
           "messages": [
               {"role": "system", "content": "You are a helpful assistant."},
               {"role": "user", "content": "你好"}
           ]
       }
       response = requests.post(url, headers=headers, data=json.dumps(data), verify=False)
   
       # Print result.
       print(response.status_code)
       print(response.text)

   Curl

   curl -X POST "https://***/v2/infer/***/v1/chat/completions" \
     -H "Content-Type: application/json" \
     -H "Authorization: Bearer $API_KEY" \
     -d '{
       "model": "qwen3_32b",
       "messages": [
         {"role": "system", "content": "You are a helpful assistant."},
         {"role": "user", "content": "你好"}
       ]
     }'