创建评估任务 - CreateOpsEvaluationTask
调用方法
请参见如何调用API。
授权信息
账号根用户具备所有API的调用权限,如果使用账号下的IAM用户调用当前API,该IAM用户需具备如下身份策略权限,更多的权限说明请参见权限和授权项。
| 授权项 | 访问级别 | 资源类型(*为必须) | 条件键 | 别名 | 依赖的授权项 |
|---|---|---|---|---|---|
| agentarts:evaluationTask:createOpsEvaluationTask | Write | evaluationTask * | - | - | - |
URI
POST /v1/ops/evaluation-tasks
请求参数
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| eval_mode | 否 | String | 参数解释: 评估模式,指定任务是在线评估还是离线评估,影响任务的执行环境和策略。 约束限制: 字符串类型,最小长度为1,最大长度为36。 取值范围: 默认取值: OFFLINE。 |
| name | 否 | String | 参数解释: 评估任务的名称,用于标识和区分不同的评估任务,方便管理和查找。 约束限制: 字符串类型,最小长度为2,最大长度为50。 取值范围: 只能由中文字符、英文字母、数字及下划线(_)、连字符(-)、点(.)组成,长度为2~50个字符。 默认取值: 不涉及。 |
| description | 否 | String | 参数解释: 评估任务的描述信息,详细说明任务的目的、范围和预期结果等背景信息。 约束限制: 字符串类型,最大长度为200。 取值范围: 任意字符,长度为0~200个字符。 默认取值: 不涉及。 |
| dataset_id | 否 | String | 参数解释: 评测集ID,离线任务使用的数据集唯一标识符,用于指定评估的数据来源。 通过1.1-创建评测集 - CreateOpsDataset获取。 约束限制: 字符串类型,最大长度为36。 取值范围: 字符长度0-36,符合通用唯一识别码(UUID)标准的字符串。 默认取值: 不涉及。 |
| dataset_version | 否 | String | 参数解释: 评测集版本号,离线任务使用的评测集版本标识。 约束限制: 字符串类型,最大长度为36。 取值范围: 字符长度0-36,系统内有效的评测集版本标识。 默认取值: 不涉及。 |
| human_read_version | 否 | String | 参数解释: 评测集版本,离线任务使用的评测集可读版本标识。 约束限制: 字符串类型,最大长度为36。 取值范围: 字符长度0-36,如0.0.1格式。 默认取值: 不涉及。 |
| dataset_name | 否 | String | 参数解释: 评测集名称,离线任务使用的评测集显示名称。 约束限制: 字符串类型,最小长度为2,最大长度为100。 取值范围: 只能由中文字符、英文字母、数字及下划线(_)、连字符(-)、点(.)组成,长度为2~100个字符。 默认取值: 不涉及。 |
| input_source_type | 否 | String | 参数解释: 评估数据来源,指定评估数据的类型和来源,影响数据的获取方式。 约束限制: 字符串类型,最大长度为36。 取值范围: 默认取值: DATASET_DYNAMIC。 |
| input_source | 否 | OpsInputSource object | 参数解释: 评估任务的输入源配置。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| runtime_config | 否 | OpsRuntimeConfig object | 参数解释: 任务运行时的环境与执行策略配置。 约束限制: 不涉及。 |
| evaluation_object_config | 否 | OpsEvaluationObjectConfig object | 参数解释: 评估对象详细配置及其输入映射规则。 约束限制: 不涉及。 默认取值: 不涉及。 |
| account_id | 否 | String | 参数解释: 租户账号ID。可通过华为云控制台获取,或通过调用查询租户信息接口获取。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| domain_id | 否 | String | 参数解释: 租户域ID。可通过华为云控制台获取,或通过调用查询租户信息接口获取。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| creator | 否 | String | 参数解释: 创建人用户名。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| run_at | 否 | String | 参数解释: 计划执行时间。 约束限制: 不涉及。 取值范围: ISO 8601时间格式,长度范围为0~40。 默认取值: 不涉及。 |
| tags | 否 | Array of OpsTmsTag objects | 参数解释: 创建评估任务时绑定的TMS标签列表。 约束限制: 数组长度0到50。 取值范围: 不涉及。 默认取值: 不涉及。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| online_config | 否 | OpsOnlineConfig object | 参数解释: 在线任务的配置信息对象。 约束限制: 不涉及。 |
| offline_config | 否 | OpsOfflineConfig object | 参数解释: 离线任务的配置信息对象。 约束限制: 不涉及。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| evaluator_config | 是 | Array of OpsEvaluatorConfigInfo objects | 参数解释: 评估器的配置,数组内每个元素为OpsEvaluatorConfigInfo对象。 约束限制: 数组元素最小数量为1,最大数量为10。 |
| span_type | 是 | String | 参数解释: Span类型。 约束限制: 不涉及。 取值范围: 默认取值: 不涉及。 |
| trace_filter | 否 | OpsTraceFilter object | 参数解释: Trace过滤条件。 约束限制: 不涉及。 |
| back_flow_new_data | 否 | OpsBackFlowNewData object | 参数解释: 新数据回拉配置。 约束限制: 不涉及。 |
| back_flow_history_data | 否 | OpsBackFlowHistoryData object | 参数解释: 历史数据回拉配置。 约束限制: 不涉及。 |
| total_sample_size | 是 | Long | 参数解释: 总采样数量。 约束限制: 不涉及。 取值范围: 1~500。 默认取值: 不涉及。 |
| sample_rate | 是 | Integer | 参数解释: 采样率,单位:百分比(%),按整数表示。 约束限制: 不涉及。 取值范围: 1~100。 默认取值: 不涉及。 |
| session_timeout | 否 | Integer | 参数解释: 会话超时时间(分钟),多轮在线评估必传。 约束限制: 不涉及。 取值范围: 1~60分钟。 默认取值: 不涉及。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| and_rules | 否 | Array of OpsFilterRule objects | 参数解释: AND条件规则列表。 约束限制: 最多5条规则。 |
| or_rules | 否 | Array of OpsFilterRule objects | 参数解释: OR条件规则列表。 约束限制: 最多5条规则。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| field | 是 | String | 参数解释: 目标字段名,支持按层级指定。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| label_name | 否 | String | 参数解释: 标签名称,专门针对Field是人工标注时使用。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| operator | 是 | String | 参数解释: 比较操作符。 约束限制: 不涉及。 取值范围: 默认取值: 不涉及。 |
| value | 否 | Object | 参数解释: 比较的目标值,类型根据operator和field决定(数字、字符串、数组等)。 约束限制: 当operator为IS_NULL或IS_NOT_NULL时可为空。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| start_time | 是 | Long | 参数解释: 起始时间(Unix时间戳,毫秒)。 约束限制: 不涉及。 取值范围: Unix时间戳(毫秒),必须大于0。 默认取值: 不涉及。 |
| end_time | 是 | Long | 参数解释: 结束时间(Unix时间戳,毫秒)。 约束限制: 不涉及。 取值范围: Unix时间戳(毫秒),必须大于0。 默认取值: 不涉及。 |
| cycle | 是 | Boolean | 参数解释: 是否周期执行。 约束限制: 不涉及。 取值范围: 默认取值: 不涉及。 |
| schedule_type | 否 | String | 参数解释: 调度类型。 约束限制: 不涉及。 取值范围: 默认取值: 不涉及。 |
| schedule_interval | 否 | Integer | 参数解释: 调度间隔,每x天或每x周执行一次。 约束限制: 不涉及。 取值范围: 1~n的整数。 默认取值: 不涉及。 |
| execute_time_of_day | 否 | String | 参数解释: 当天执行的时间点,例如"15:00:00"。 约束限制: 不涉及。 取值范围: HH:mm:ss格式的时间字符串,例如"15:00:00"。 默认取值: 不涉及。 |
| execute_day_of_week | 否 | Integer | 参数解释: 按周执行时,在周x天执行。 约束限制: 不涉及。 取值范围: 1~7,分别表示周一至周日。 默认取值: 不涉及。 |
| each_cycle_max_sample_count | 否 | Long | 参数解释: 每个周期最大采样数。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| start_time | 是 | Long | 参数解释: 起始时间(Unix时间戳,毫秒)。 约束限制: 不涉及。 取值范围: Unix时间戳(毫秒)。 默认取值: 不涉及。 |
| end_time | 是 | Long | 参数解释: 结束时间(Unix时间戳,毫秒)。 约束限制: 不涉及。 取值范围: Unix时间戳(毫秒)。 默认取值: 不涉及。 |
| max_sample_size | 是 | Long | 参数解释: 最大采样数量。 约束限制: 不涉及。 取值范围: 1~500。 默认取值: 不涉及。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| evaluator_config | 是 | Array of OpsEvaluatorConfigInfo objects | 参数解释: 评估器的配置,数组内每个元素为OpsEvaluatorConfigInfo对象,用于配置评估器的各项参数。 约束限制: 数组元素最小数量为1,最大数量为10。 取值范围: 不涉及。 默认取值: 不涉及。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| evaluator_id | 是 | String | 参数解释: 评估器的唯一标识符。可通过查询评估器列表接口获取。 约束限制: 1到36字符。 取值范围: 不涉及。 默认取值: 不涉及。 |
| evaluator_version | 是 | String | 参数解释: 评估器的版本号。 约束限制: 1到36字符。 取值范围: 不涉及。 默认取值: 不涉及。 |
| evaluator_name | 是 | String | 参数解释: 评估器的显示名称。 约束限制: 1到100字符。 取值范围: 不涉及。 默认取值: 不涉及。 |
| evaluator_variable_mapping | 是 | Map<String,OpsEvaluatorVariableMapping> | 参数解释: 变量映射字典配置,Key为变量名称(String类型,由英文字母、数字及下划线(_)组成,长度为1~100个字符),Value为变量映射配置(OpsEvaluatorVariableMapping类型,参考OpsEvaluatorVariableMapping定义)。 约束限制: 不涉及。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| source | 是 | String | 参数解释: 指定评估器变量的数据来源。 约束限制: 1到36字符。 取值范围: 默认取值: 不涉及。 |
| field_name | 否 | String | 参数解释: 数据源对应的具体字段名。 约束限制: 1到200字符。 取值范围: 不涉及。 默认取值: 不涉及。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| execution_time | 是 | Long | 参数解释: 任务的预定执行时间(Unix 时间戳),单位:秒。 约束限制: 不涉及。 取值范围: 单位为秒,0-9999999999999 默认取值: 不涉及。 |
| concurrency | 否 | Integer | 参数解释: 任务执行的并发数配置。 约束限制: 不涉及。 取值范围: 1-100。 默认取值: 不涉及。 |
| continue_on_exception | 否 | Boolean | 参数解释: 异常处理策略,是否在遇到非致命异常时继续。 约束限制: 不涉及。 取值范围: true:遇到异常时继续执行,false:遇到异常时停止执行。 默认取值: 不涉及。 |
| agent_call_timeout_minutes | 否 | Integer | 参数解释: 离线任务Agent调用超时时间(分钟)。 约束限制: 不涉及。 取值范围: 仅支持5/10/15/20;不传(null)时后端填充配置项默认值。 默认取值: 配置项 agent.requestTimeout。 |
| gen_summary | 否 | Boolean | 参数解释: 是否生成评估总结报告。 约束限制: 不涉及。 取值范围: 默认取值: 不涉及。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| id | 否 | String | 参数解释: 评估对象的唯一标识符。可通过查询评估对象列表接口获取。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| type | 否 | String | 参数解释: 评估对象的类型。 约束限制: 不涉及。 取值范围: WORKFLOW:工作流类型;AGENT:智能体类型;MULTI_AGENT:多智能体类型;THIRD_PARTY_AGENT:三方托管智能体类型;AGENT_RUNTIME:智能体运行时类型。 默认取值: 不涉及。 |
| name | 否 | String | 参数解释: 评估对象的名称。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| version | 否 | String | 参数解释: 评估对象的版本号。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| version_name | 否 | String | 参数解释: 评估对象的版本名称。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| endpoint | 否 | String | 参数解释: 智能体调用的endpoint参数,替换URL中?endpoint=的值。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: Latest。 |
| gateway_config | 否 | 参数解释: 三方托管智能体的网关配置,用于控制沙箱网络访问范围。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 | |
| inputs_mapping | 否 | 参数解释: 输入数据来源映射定义。 约束限制: 不涉及。 默认取值: 不涉及。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| enable_public_network | 否 | Boolean | 参数解释: 是否开启公网访问。 约束限制: 不涉及。 取值范围: 默认取值: true。 |
| vpc_id | 否 | String | 参数解释: VPC ID。可通过虚拟私有云控制台获取,或通过调用查询VPC列表接口获取。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| subnet_id | 否 | String | 参数解释: 子网ID。可通过虚拟私有云控制台获取,或通过调用查询子网列表接口获取。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| security_group_ids | 否 | Array of strings | 参数解释: 安全组ID列表。可通过虚拟私有云控制台获取,或通过调用查询安全组列表接口获取。 约束限制: 非必填,不填时为空。 取值范围: 不涉及。 默认取值: 不涉及。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| input | 否 | String | 参数解释: 智能体执行时的输入参数来源字段。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
| workflow_input | 否 | 参数解释: 工作流输入参数来源配置。 约束限制: 不涉及。 默认取值: 不涉及。 | |
| third_party_input | 否 | Map<String,String> | 参数解释: 三方智能体执行时的输入参数映射,键为智能体输入参数名(String类型,由英文字母、数字及下划线()组成,长度为1~100个字符),值为数据集字段名(String类型,需与数据集Schema中定义的字段名保持一致,由英文字母、数字及下划线()组成,长度为1~100个字符)。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。 |
响应参数
状态码:200
| 参数 | 参数类型 | 描述 |
|---|---|---|
| data | String | 参数解释: 创建成功的评估任务ID。 取值范围: 不涉及。 |
状态码:400
| 参数 | 参数类型 | 描述 |
|---|---|---|
| error_code | String | 参数解释: 系统定义的标准化错误代码。 取值范围: 业务异常编码字符串。 |
| error_msg | String | 参数解释: 对错误的详细描述,包含异常原因或解决建议。 取值范围: 字符长度2-512,任意文本内容。 |
| encoded_authorization_message | String | 参数解释: 编码后的授权信息,用于客户端解析权限问题。 取值范围: Base64编码的字符串。 |
| details | Array of OpsErrorDetail objects | 参数解释: 错误详情列表,包含多个子错误的详细信息。 取值范围: 不涉及。 |
| request_id | String | 参数解释: 请求的唯一标识符,用于问题排查和链路追踪。 取值范围: 符合通用唯一识别码(UUID)标准的字符串。 |
请求示例
创建一个基于智能体(AGENT)和动态评测集(DATASET_DYNAMIC)的离线评估任务,并配置并发数及内置评估器。
POST https://api.example.com/v1/ops/evaluation-tasks
{
"name" : "评估任务-20261010152138",
"eval_mode" : "OFFLINE",
"description" : "评估任务测试",
"input_source_type" : "DATASET_DYNAMIC",
"runtime_config" : {
"execution_time" : 1768555998,
"concurrency" : 5,
"continue_on_exception" : true,
"gen_summary" : true,
"agent_call_timeout_minutes" : 15
},
"evaluation_object_config" : {
"id" : "9aba88f7-513c-4939-a676-2457d43c6873",
"type" : "AGENT",
"name" : "linqingshan-test",
"version" : "1791615952178",
"version_name" : "v20261010150550",
"endpoint" : "Latest",
"inputs_mapping" : {
"input" : "user_input"
}
},
"input_source" : {
"offline_config" : {
"evaluator_config" : [ {
"evaluator_id" : "Correctness",
"evaluator_version" : "v1.0.0",
"evaluator_name" : "正确性",
"evaluator_variable_mapping" : {
"input" : {
"source" : "dataset",
"field_name" : "user_input"
},
"actual_output" : {
"source" : "agent_output",
"field_name" : ""
},
"reference_output" : {
"source" : "agent_output",
"field_name" : ""
}
}
} ]
}
},
"tags" : [ ],
"dataset_id" : "76119041-b020-4a7a-aa00-d881f867af89",
"dataset_version" : "9dfe4dde-085c-4ae6-9342-37ed722e16ee",
"human_read_version" : "0.0.1",
"dataset_name" : "数据集cp1791537675378"
} 响应示例
状态码:200
{
"data" : "1769499746650415700514"
} 状态码:400
{
"error_code" : "AgentArts.03400001",
"error_msg" : "请求错误",
"encoded_authorization_message" : "",
"details" : [ {
"error_code" : "AgentArts.03400001",
"error_msg" : "请求错误"
} ],
"request_id" : "a3f5e2b1-4c6d-4e8f-9a2b-1c3d5e7f9a2b"
} 状态码
| 状态码 | 描述 |
|---|---|
| 200 | 创建任务成功 |
| 400 | 请求错误 |
错误码
请参见错误码。