效果评估
创建效果评估可以对线上服务设置指标,查看推荐效果的反馈,可以根据系统提供的指标添加。
创建效果评估
创建效果评估步骤如下:
- 在“离线作业”的“效果评估”页签,单击左上方“创建”,进入“创建效果评估”页面。
- 在“创建效果评估”页面,填写特征工程“名称”、“场景”和“描述”。
- 效果评估名称:请以“Evaluate-”开始,只能由字母、数字、中划线和下划线组成,并且长度小于64个字符。
- “场景”信息可选择您在全局配置页面创建的场景。
图1 创建效果评估
- 配置创建效果评估相关参数,请参见表1。
表1 创建效果评估参数说明 参数名称
说明
计算引擎
计算引擎信息,选择指定服务名、集群名称、任务配置地址、资源名等信息。
数据源
数据源类型有初始格式和通用格式可以选择。
“初始格式”- 用户操作行为表:初始数据中的用户操作行为表。
“通用格式”- 通用格式数据:特征工程“初始用户画像-物品画像-标准宽表生成”算子生成的用户推荐系统的数据。从用户特征表、物品特征表以及用户行为表中提取用户、物品特征和用户行为,并生成json数据,即内部通用格式。
数据时间范围
被统计数据的起始时间和终止时间。
统计间隔(天)
统计间隔,以天为单位,每隔多少天计算一次指标,大于0。
在线服务
选择已发布的在线服务进行推荐效果指标计算。
结果保存路径
效果评估结果在OBS的文件输出路径。
指标
推荐服务效果评估指标,通过指标后的下拉框选择系统自置指标或自定义指标。您可以单击添加指标,单击该指标后的删除指标。
- 点击PV
- 推荐点击PV率
- 点击UV
- 推荐点击UV率
- 自定义指标
自定义指标包含参数设置和指标设置两部分。- 参数设置
- 参数别名:用户指定参数别名应用于指标公式。
- 行为类型:选择需要进行评估的行为类型,如物品曝光。
- 阈值:阈值是用来衡量用户行为有效性的标准, 当数据源的actionMeasure的值大于阈值时, 当前用户行为有效。
- 去重:您可以单击勾选,根据用户对行为记录去重。
- 指标设置
- 指标名称:请您定义评估的指标名称。
- 指标公式:用户指定自定义指标公式,如:A/(A+B),参数A、B代表自定义参数的参数别名。只支持+、-、*、/。
- 选择计算引擎,完成配置后单击“确定”。在“效果评估”页面可以单击“指标图”查看效果评估结果。