使用API调用预测大模型

获取预测大模型API请求地址

1. 登录ModelArts Studio平台，在“我的空间”模块，单击进入所需空间。
   图1 我的空间
   
2. 在左侧导航栏中选择“模型开发 > 模型部署”，单击“模型名称”在“详情”页面获取API请求地址。

   只有处于“运行中”状态的模型才可以正常调用。

   云上部署：

   图2 云上部署获取预测大模型API请求地址
   

   边缘部署：

   边缘部署-负载均衡访问方式，获取预测大模型API请求地址由三部分组成

   图2 边缘部署负载均衡访问时，api请求地址获取

   

   图3 在华为云前端界面搜索ECS，进入弹性云服务器界面

   

   图4 在弹性云服务器界面下，寻找到私有ip对应的弹性ip，如192.168.0.11->100.85.126.183

   

   拼接弹性ip、图2中的负载端口、图2中的api url，得到请求url地址。

获取Token

参考《API参考》文档“如何调用REST API > 认证鉴权”章节获取Token。

使用API调用预测大模型

1. 在Postman中新建POST请求，并填入API请求地址。
2. 参考如图填写2个请求Header参数。
   • 参数名为Content-Type，参数值为application/json。
   • 参数名为X-Auth-Token，参数值为获取Token中获取的Token值。
     图3 填写预测大模型API
     
3. 在Postman中选择“Body > raw”选项，参考以下代码填写请求Body。feature表示待预测数据中的特征名称，需要与训练数据中的特征名称保持一致，同时特征数量需要与训练数据保持一致。
   预测大模型在训练完成后，可以在训练日志页面，“模型训练”日志节点中获取推理api所用的示例数据。填写请求Body时可以参考该示例填写。

   图4 获取推理api所用的示例数据
   

   {
     "data": [
       {
         "feature_1": xx,
         "feature_2": xx,
         ...
         "feature_n": xx
       },
       ...
       {
         "feature_1": xx,
         "feature_2": xx,
         ...
         "feature_n": xx
       }
     ]
   }

4. 单击Postman界面“Send”按钮，发送请求。

排列特征重要性

盘古融合推荐回归大模型和盘古融合推荐分类大模型在训练阶段提供训练特征重要性（模型权重特征重要性），还支持在推理阶段计算排列特征重要性，详见《API参考》“API > 模型推理接口 > 预测大模型 >盘古融合推荐分类大模型 > 排列特征重要性”和“API > 模型推理接口 > 预测大模型 > 盘古融合推荐回归大模型 > 排列特征重要性”章节。（注意，这两种特征重要性功能独立，即训练阶段的权重特征重要性是否打开，不影响推理阶段的排列特征重要性计算）

对于模型权重特征重要性（训练特征重要性）和排列特征重要性这两种特征重要性，说明如下：

1. 模型权重特征重要性（训练特征重要性）

   使用方式：创建预测大模型训练任务时，打开“训练特征重要性”开关，训练完成后在“训练结果”>“训练特征重要性”查看。

   原理简述：对于随机森林、XGBoost等基于树模型的模型，衡量每个特征对决策树构建的参与程度（具体而言，指该特征作为分裂特征的次数，以及作为分裂节点时的信息增益）。

   方法特点：计算快、效率高，使用简单。当特征为连续的数值数据，或为取值较多的类别特征数据时，获得的重要性分数可能偏高。此外，仅有部分基模型（ada，lgb，xgb，rf，et，gb）支持此重要性计算，最终重要性值为这些基模型的重要性均值，因此，当用户配置了较多其他基模型时，重要性值的准确度可能会下降。

2. 排列特征重要性

   使用方式：准备一批包含目标列真值的数据，调用推理服务的排列特征重要性接口，在返回结果中查看。

   原理简述：衡量当某个特征的值被随机打乱后，模型效果下降的程度。模型效果下降越多，表明特征对模型效果影响越大，特征越重要。

   方法特点：可靠性更高，且不受特征是否是连续或多类别的影响，但如果特征之间存在高度相关性，可能会导致特征的重要性被低估。

盘古融合推荐回归/分类大模型-极简模式在训练阶段提供的训练特征重要性为排列特征重要性，从用户数据中随机采样数据进行计算。在推理阶段不提供特征重要性的API接口。

预测置信度

盘古融合推荐异常检测大模型和盘古融合推荐分类大模型支持预测时输出置信度（即每种结果的概率值），详见《API参考》“API > 模型推理接口 > 预测大模型 > 盘古融合推荐异常检测大模型”和“API > 模型推理接口 > 预测大模型 > 盘古融合推荐分类大模型”。