文档首页/ MapReduce服务 MRS/ 用户指南/ MRS集群运维/ MRS集群告警处理参考/ ALM-45641 FlinkServer主备节点同步数据异常
更新时间：2024-09-05 GMT+08:00
查看PDF
分享

ALM-45641 FlinkServer主备节点同步数据异常

本章节适用于MRS 3.2.0及以后版本。

告警解释

系统每60秒周期检测FlinkServer主备节点同步数据情况，当备FlinkServer无法与主FlinkServer同步文件时，产生该告警。

当备FlinkServer与主FlinkServer正常同步文件时，告警恢复。

告警属性

告警ID

告警级别

是否自动清除

45641

重要

是

告警参数

参数名称

参数含义

来源

产生告警的集群或系统名称。

服务名

产生告警的服务名称。

角色名

产生告警的角色名称。

主机名

产生告警的主机名。

对系统的影响

备FlinkServer的配置文件没有更新，主备倒换之后，部分配置可能会丢失，会对FlinkServer的部分作业以及配置连接产生影响，但FlinkServer可以正常提供服务。

可能原因

  • 主备FlinkServer节点间链路中断。
  • 同步文件不存在，或者文件权限有误。

处理步骤

检查主备FlinkServer服务器间的网络是否正常。

  1. 在FusionInsight Manager页面，选择“集群 > 服务 > Flink > 实例”，查看并记录“FlinkServer (主)”和“FlinkServer (备)”的业务IP。
  2. 以root用户登录主FlinkServer节点。
  3. 执行以下命令检查备FlinkServer节点是否可达。

    ping 备FlinkServer IP地址

    • 是，执行6。
    • 否，执行4。

  4. 联系网络管理员查看是否为网络故障。

    • 是，执行5。
    • 否，执行6。

  5. 修复网络故障，查看告警列表中，该告警是否已清除。

    • 是，处理完毕。
    • 否，执行6。

检查/srv/BigData/LocalBackup目录存储空间是否已满。

  1. 执行以下命令检查“/srv/BigData/LocalBackup”目录存储空间是否已满：

    df -hl /srv/BigData/LocalBackup
    • 是，执行7。
    • 否，执行10。

  2. 执行以下命令清理不需要的备份文件：

    rm -rf 待清理的目录路径

    例如：

    rm -rf /srv/BigData/LocalBackup/0/default-oms_20191211143443

  3. 在FusionInsight Manager界面，选择“运维 > 备份恢复 > 备份管理”。

    在待操作备份任务右侧“操作”栏下，单击“配置”，修改“最大备份数”减少备份文件集数量。

  4. 等待大约1分钟，查看告警列表中，该告警是否已清除。

    • 是，处理完毕。
    • 否，执行10。

检查同步文件是否存在，文件权限是否异常。

  1. 执行以下命令查找同步文件是否存在。

    find /srv/BigData/ -name "sed*"

    find /opt -name "sed*"

    • 是，执行11。
    • 否，执行12。

  2. 执行以下命令，查看10查找出的同步文件信息及权限。

    ll 待查找文件路径

    • 如果文件大小为0，且权限栏全为“-”，则为垃圾文件，请执行以下命令删除。

      rm -rf 待删除文件

      等待几分钟观察告警是否清除，如果未清除则执行12。

    • 如果文件大小不为0，则执行12。

  3. 查看发生告警时间段的日志文件。

    1. 执行以下命令，进入当前集群的HA运行日志文件路径。

      cd /var/log/Bigdata/flink/flinkserver/ha/runlog

    2. 解压并查看发生告警时间段的日志文件。

      例如，待查看文件名称为“ha.log.2021-03-22_12-00-07.gz”，则执行以下命令：

      gunzip ha.log.2021-03-22_12-00-07.gz

      vi ha.log.2021-03-22_12-00-07

      查看日志中，告警时间点前后是否有报错信息。

      • 是，根据相关报错信息进行处理。然后执行13。

        例如，查询出报错信息如下，表示目录权限不足，则请修改对应目录权限与正常节点保持一致。

      • 否，执行14。

  4. 等待大约10分钟，查看告警列表中，该告警是否已清除。

    • 是，处理完毕。
    • 否，执行14。

收集故障信息。

  1. 在FusionInsight Manager界面，选择“运维 > 日志 > 下载”。
  2. 在“服务”中勾选FlinkServer节点信息，单击“确定”。
  3. 在“主机”中勾选对应角色所在的主机，单击“确定”。
  4. 单击右上角的设置日志收集的“开始时间”和“结束时间”分别为告警产生时间的前后10分钟，单击“下载”。
  5. 请联系运维人员，并发送已收集的故障日志信息。

告警清除

此告警修复后，系统会自动清除此告警，无需手工清除。

参考信息

无。