文档首页/ MapReduce服务 MRS/ 用户指南/ MRS集群运维/ MRS集群告警处理参考/ ALM-45640 FlinkServer主备节点间心跳中断
更新时间:2024-09-05 GMT+08:00

ALM-45640 FlinkServer主备节点间心跳中断

本章节适用于MRS 3.2.0及以后版本。

告警解释

FlinkServer主节点或备节点连续30秒(keepalive配置的心跳中断时间)未收到对端的心跳消息后,系统产生告警。

当心跳恢复后,告警恢复。

告警属性

告警ID

告警级别

是否自动清除

45640

次要

告警参数

参数名称

参数含义

来源

产生告警的集群名称。

服务名

产生告警的服务名称。

角色名

产生告警的角色名称。

主机名

产生告警的主机名。

对系统的影响

FlinkServer主备之间的心跳中断有很多原因,如果是主节点出问题,那么心跳中断后备节点会升为主节点,继续对外提供服务;如果是因为其他原因,比如网络问题导致心跳中断,很可能会出现双主的现象,因为备节点也会升为主节点,会导致主备数据同步出现问题,但Flinkserver可以提供服务。

可能原因

  • FlinkServer的主备实例中,有一个实例处于停止状态。
  • FlinkServer节点使用的HA浮点网卡配置异常,导致FlinkServer启动故障。
  • 主备FlinkServer节点间链路异常。

处理步骤

检查FlinkServer主备实例状态。

  1. 在FusionInsight Manager界面,选择“集群 > 服务 > Flink > 实例”查看FlinkServer实例的状态是否都为“良好”状态。

    • 是,执行3
    • 否,执行2

  2. 将异常的FlinkServer实例选中,单击“启动实例”,等待实例启动成功后在告警列表中查看该告警是否清除。

    • 是,处理完毕。
    • 否,执行3

    重启FlinkServer实例期间,当前实例无法对外提供服务,已提交的作业不受影响。

检查主备FlinkServer节点间链路是否正常。

  1. 通过“集群 > 服务 > Flink > 实例”查看FlinkServer两个实例的业务IP。
  2. root用户登录异常FlinkServer实例所在的服务器
  3. 执行以下命令检查另一个FlinkServer实例的服务器是否可达。

    ping 另一个FlinkServer实例IP

    • 是,执行8
    • 否,执行6

  4. 联系网络管理员处理网络故障。
  5. 查看告警列表中,该告警是否已清除。

    • 是,处理完毕。
    • 否,执行8

检查异常FlinkServer实例所在节点日志中是否有异常提示。

  1. root用户登录异常FlinkServer实例所在的服务器
  2. 打开默认地址为“/var/log/Bigdata/flink/flinkserver/prestart.log”的日志文件,查看日志内是否有“Float ip x.x.x.x is invalid.”字样。

    • 是,执行10
    • 否,执行12

  3. 在FusionInsight Manager界面,选择“集群 > 服务 > Flink > 配置 > 全部配置”,搜索“flink.ha.floatip”,修改参数值为正确浮动IP,保存配置并重启Flink服务。

    • 新的浮动IP请联系网络管理员提供。
    • 重启服务期间,FlinkServer无法对外提供服务,已提交的作业不受影响。
    • 重启FlinkServer实例期间,当前实例无法对外提供服务,已提交的作业不受影响。

  4. 查看告警列表中,该告警是否已清除。

    • 是,处理完毕。
    • 否,执行12

收集故障信息

  1. 在FusionInsight Manager界面,选择运维 > 日志 > 下载
  2. 在“服务”中勾选待操作集群的Flink服务。
  3. 在“主机”中勾选对应角色所在的主机,单击“确定”。
  4. 单击右上角的设置日志收集的“开始时间”和“结束时间”分别为告警产生时间的前后10分钟,单击“下载”。
  5. 请联系运维人员,并发送已收集的故障日志信息。

告警清除

此告警修复后,系统会自动清除此告警,无需手工清除。

参考信息

无。