获取模型信息 - ListOpsEvaluationModels
功能介绍
该接口用于获取系统中所有可用的基础大模型及微调模型的详细列表,涵盖模型能力类型、状态及访问参数。
URI
GET /v1/ops/evaluation-models
请求参数
|
参数 |
是否必选 |
参数类型 |
描述 |
|---|---|---|---|
|
Content-Type |
是 |
String |
参数解释: 消息体编码格式。用于告知服务端请求体(Body)所采用的主体数据类型,以便服务端正确解析。 约束限制: 不涉及 取值范围: 不涉及 默认取值: application/json |
|
Authorization |
是 |
String |
参数解释: 签名认证信息,当使用AK/SK方式认证时,使用SDK对请求进行签名的过程中会自动填充该字段。 约束限制: 不涉及 取值范围: 不涉及 默认取值: 不涉及 |
|
X-Sdk-Date |
是 |
String |
参数解释: 请求发送的时间,当使用AK/SK方式认证时,使用SDK对请求进行签名的过程中会自动填充该字段。 约束限制: 不涉及 取值范围: 不涉及 默认取值: 不涉及 |
响应参数
状态码:200
|
参数 |
参数类型 |
描述 |
|---|---|---|
|
models |
Array of models objects |
参数解释: 模型信息的列表,包含多个模型的配置参数、阈值范围以及支持的业务场景。 取值范围: 符合模型定义的对象数组。 |
|
参数 |
参数类型 |
描述 |
|---|---|---|
|
max_tokens_top |
Integer |
参数解释: 模型生成文本的最大Token长度上限。 取值范围: 0到2,147,483,647之间的整数。 |
|
max_tokens_bottom |
Integer |
参数解释: 模型生成文本的最大Token长度下限配置值。 取值范围: 0到2,147,483,647之间的整数。 |
|
model_id |
String |
参数解释: 模型的唯一标识符ID。 取值范围: 系统生成的唯一标识符。 |
|
model_name |
String |
参数解释: 模型的显示名称。 取值范围: 任意字符串。 |
|
temperature_top |
String |
参数解释: 模型生成随机性(Temperature)的上限值。 取值范围: 符合浮点数格式的字符串。 |
|
temperature_bottom |
String |
参数解释: 模型生成随机性(Temperature)的下限值。 取值范围: 符合浮点数格式的字符串。 |
|
top_p_top |
String |
参数解释: 核采样(TopP)的概率上限值。 取值范围: 符合浮点数格式的字符串。 |
|
top_p_bottom |
String |
参数解释: 核采样(TopP)的概率下限值。 取值范围: 符合浮点数格式的字符串。 |
|
supported_scenes |
Array of strings |
参数解释: 模型支持的应用场景列表。 取值范围: |
请求示例
获取当前租户下所有可用的评估模型列表,用于评测任务的资源选型。
GET https://*.com/agentarts/v1/ops/evaluation-models
响应示例
状态码:200
获取大模型信息列表成功
{
"models" : [ {
"model_id" : "mod_llama3_70b_001",
"model_name" : "Llama-3-70B-Instruct"
} ]
}
状态码
|
状态码 |
描述 |
|---|---|
|
200 |
获取大模型信息列表成功 |
错误码
请参见错误码。