# DataArts Studio数据集成（实时作业）告警最佳实践 实时数据迁移对数据集成的实时作业在时效性和稳定性方面有较高要求。由于数据源的性能瓶颈或业务量变化，可能会导致作业时延增加，甚至出现作业异常。常见的异常作业及其诱因包括： - 作业异常终止：可能由数据源集群重启、发现脏数据或其它可能导致作业失败的业务变化引起。 - 作业时延持续上升：可能由源端数据量激增、源端或目标端性能瓶颈，或实时作业资源不足引起。 - 作业反压持续高位：可能由目标端写入性能不足或源端数据量大引起。 为了持续跟踪作业状态，及时对异常作业进行调优或恢复操作，建议配置各类监控指标告警、时延/异常作业告警，以延长处理问题的时间窗口。具体措施包括： - [配置作业失败告警]：通过设置作业失败告警，可以在作业失败时及时通知运维管理人员，减少故障升级的风险。 - [配置作业监控指标异常告警]：通过设置作业监控指标告警，可以提前发现作业运行中的潜在风险，及时调整作业或业务，避免出现大时延。 #### 前提条件 - 已购买migration资源组并运行数据集成实时作业，详情请参见[配置实时集成作业](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_1604.html)。 - 作业处于运行中状态，且指标上报正常，如何查看作业监控指标，详情请参见[查看监控指标](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_1613.html)。 #### 配置作业失败告警 您可以通过"通知配置"为单个数据集成实时作业或所有数据集成实时作业开启"运行异常/失败"告警。本章节以批量作业配置为例，为您介绍如何配置作业失败告警。 1. [登录DataArts Studio管理控制台](https://console.huaweicloud.com/dayu/)。 详情请参考[访问DataArts Studio实例控制台](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_0001.html)。 2. 在DataArts Studio控制台首页，选择对应工作空间的"数据开发"模块，进入数据开发页面。 3. 在数据开发主界面的左侧导航栏，选择"运维调度 \> 通知管理"。 4. 在"通知管理"页签，单击"通知配置"，弹出"通知配置"页面。 图1通知配置 ![](https://support.huaweicloud.com/bestpractice-dataartsstudio/zh-cn_image_0000002455383982.png "点击放大") 5. 配置对应参数。 图2配置通知参数 ![](https://support.huaweicloud.com/bestpractice-dataartsstudio/zh-cn_image_0000002488543653.png "点击放大") - 作业范围：批量作业。 - 通知类型："运行异常/失败"。 - 通知方式：主题。 用户通过订阅SMN主题可以以短信、邮件、语音通知的形式接收到作业失败告警。 SMN主题的创建和订阅方式详情请参见[创建主题](https://support.huaweicloud.com/usermanual-smn/zh-cn_topic_0043961401.html)和[订阅主题](https://support.huaweicloud.com/usermanual-smn/zh-cn_topic_0043961402.html)。 - 其他参数根据实际情况配置即可。 6. 单击"确定"，完成配置，可以在通知管理界面看到已配置完成的规则。 图3配置完成的规则 ![](https://support.huaweicloud.com/bestpractice-dataartsstudio/zh-cn_image_0000002453830376.png "点击放大") 当作业运行状态由"运行中"转入"异常"或"失败"时，异常告警信息会发送到指定主题关联的通信软件上。 #### 配置作业监控指标异常告警 数据集成实时作业支持自动上报作业监控指标到CES服务（云监控服务），查看监控指标详情请参见[配置实时集成作业](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_1604.html)。 用户可以同步在CES服务下为数据集成实时作业配置异常监控指标告警，配置方式参考本章节。配置过程中，如果对CES服务功能有任何疑惑，详情请参见[CES告警](https://support.huaweicloud.com/usermanual-ces/ces_01_0068.html)。 1. **在云监控服务依次创建通知对象、通知组** **。** 1. 创建通知对象。 在云监控服务管理控制台，单击"告警 \> 告警通知"，进入告警通知界面，在"通知对象"页签，单击"创建通知对象"，用户按需填写对象名称、选择通知渠道。 图4创建通知对象 ![](https://support.huaweicloud.com/bestpractice-dataartsstudio/zh-cn_image_0000002455383986.png "点击放大") 图5配置对象参数 ![](https://support.huaweicloud.com/bestpractice-dataartsstudio/zh-cn_image_0000002516473049.png "点击放大") 通知对象创建完毕，可以在告警通知 \> 通知对象界面查看到已创建的通知对象。 图6查看已创建的通知对象 ![](https://support.huaweicloud.com/bestpractice-dataartsstudio/zh-cn_image_0000002484073410.png "点击放大") 2. 创建通知组，并绑定通知对象。 在告警通知界面，选择"通知组"页签，单击"创建通知组"，用户按需填写组名称、选择通知对象。 图7创建通知组 ![](https://support.huaweicloud.com/bestpractice-dataartsstudio/zh-cn_image_0000002488543657.png "点击放大") 通知组创建完毕后，可以在告警通知 \> 通知组界面查看到已创建的通知组。 2. **创建通知内容模板（可选）。** 实时集成作业告警通知内容支持配置实时集成作业的责任人。 在云监控服务管理控制台，单击"告警 \> 告警通知"，进入告警通知界面，在"通知内容模板"页签，单击"创建通知内容模板"，用户按需添加内容选择作业责任人。 图8创建通知内容模板 ![](https://support.huaweicloud.com/bestpractice-dataartsstudio/zh-cn_image_0000002516314357.png "点击放大") 图9配置通知内容参数 ![](https://support.huaweicloud.com/bestpractice-dataartsstudio/zh-cn_image_0000002484234768.png "点击放大") 3. **创建告警规则。** 在云监控服务管理控制台，单击"告警 \> 告警规则"，进入告警规则界面，在页面右上角单击"创建告警规则"，用户按需配置告警规则参数。 - 名称：根据实际情况填写。 - 告警类型：指标。 - 云产品：数据治理中心-DataArts Studio作业。 - 资源层级：云产品。 - 监控范围：即所需监控的作业名，可以选择全部资源，即所有的数据集成实时作业，也可以指定资源对重点作业关注。此时我们选择指定资源。 - 触发规则：可以使用已有告警模板，也可以自定义创建规则。数据集成实时作业推荐的常见告警规则如下表。 表1告警触发规则 | 分类 | 名称 | 级别 | 说明 | |:---|:---|:---|:---| | 作业异常终止 | 源库WAL抽取时延 | 次要 | 原始值环比不变且持续180个周期则告警。 频率：每3小时告警一次。 | | 作业异常终止 | 作业内存使用率 | 重要 | 原始值环比不变且持续90个周期则告警。 每1小时告警一次。 | | 作业时延持续上升 | 源库WAL抽取时延 | 紧急 | 原始值\>=86,400,000ms且持续3个周期则告警。 频率：每1小时告警一次。 | | 作业反压持续高位 | 监控周期5分钟 作业内存使用率 | 重要 | 平均值\>90%且持续4个周期则告警。 频率：每1小时告警一次。 | | 作业反压持续高位 | 监控周期5分钟 作业CPU使用率 | 重要 | 平均值\>90%且持续4个周期则告警。 频率：每1小时告警一次。 | | 作业反压持续高位 | 监控周期1小时 作业最大算子反压 | 次要 | 最小值\>=100且持续2个周期则告警。 频率：每3小时告警一次。 | | 网络不稳定 说明： 网络抖动、数据源集群压力等导致的作业内部自动重试，建议与其他告警规则分开，单独配置告警规则。 | 任务重试次数 | 重要 | 原始值环比上升1%且持续1个周期 则告警。 频率：只告警一次。 | 图10常见告警规则配置效果 ![](https://support.huaweicloud.com/bestpractice-dataartsstudio/zh-cn_image_0000002455383990.png "点击放大") 图11单独为任务重试配置告警规则的配置效果 ![](https://support.huaweicloud.com/bestpractice-dataartsstudio/zh-cn_image_0000002455219918.png "点击放大") - 发送通知：通知组，选择之前创建好的通知组即可。 - 其它参数根据实际情况配置即可。 如果创建了通知内容模板，在此处可以配置通知内容模板。 图12配置通知内容 ![](https://support.huaweicloud.com/bestpractice-dataartsstudio/zh-cn_image_0000002484236286.png "点击放大") 配置完成后，单击"立即创建"即可完成告警规则的创建，创建完成后，可以在告警规则界面下看到已创建的规则。 图13已创建的规则 ![](https://support.huaweicloud.com/bestpractice-dataartsstudio/zh-cn_image_0000002455224370.png "点击放大") 当被监控作业的监控指标波动情况满足告警规则中配置的告警策略时，系统会自动向通知组发送异常告警。