更新时间:2024-11-12 GMT+08:00

ALM-14039 集群内存在慢DataNode

告警解释

系统每60秒周期性检测HDFS DataNode实例每秒出现的慢操作次数,并把次数与阈值相比较。当HDFS DataNode实例持续3分钟出现每秒的慢操作次数超出阈值,产生该告警。

当HDFS DataNode实例每秒出现的慢操作次数小于或等于阈值时,告警恢复。

该告警仅适用于MRS 3.5.0及之后版本。

告警属性

告警ID

告警级别

是否可自动清除

14039

重要(默认阈值为100)

告警参数

类别

参数名称

参数含义

定位信息

来源

产生告警的集群名称。

服务名

产生告警的服务名称。

角色名

产生告警的角色名称。

主机名

产生告警的主机名。

附加信息

Trigger Condition

系统当前指标取值满足自定义的告警设置条件。

对系统的影响

HDFS出现慢DataNode,会影响HDFS的数据读写性能。

可能原因

  • HDFS DataNode实例磁盘IO速率低、HDFS DataNode自身处理能力到达瓶颈。
  • HDFS各DataNode实例之间网络传输速率低。

处理步骤

检查是否DataNode实例磁盘IO速率低。

  1. 登录FusionInsight Manager界面,选择“运维 > 告警 > 告警”,查看当前告警详细信息,记录定位信息中上报告警的DataNode实例主机名。
  2. 选择“集群 > 服务 > HDFS > 实例”,根据1中获取的主机名称,单击对应DataNode角色。
  3. 选择“图表 > 性能”,查看监控图表“每秒出现慢Flush或Sync的次数”、“每秒出现慢SyncWriterOsCache的次数”、“每秒出现慢WriteDataToDisk的次数”是否存在数值高的监控指标。

    • 是,执行4
    • 否,执行8

  4. 在FusionInsight Manager界面,选择“运维 > 告警 > 告警”查看是否存在“ALM-12033 慢盘故障”告警。

    • 是,查看并记录告警详细信息中的磁盘信息,执行6
    • 否,执行5

  5. 获取发生慢操作的磁盘信息。

    1. 使用omm用户登录1中获取的DataNode节点IP地址,使用如下命令查看运行日志。

      cd /var/log/Bigdata/hdfs/dn/

      vim hadoop-omm-datanode-主机名.log

    2. 在日志中搜索关键字“slow”,确认发生慢操作的磁盘信息。

  6. 根据获取到的磁盘信息,参考“ALM-12033 慢盘故障”告警处理步骤进行处理。
  7. 等待5分钟,检查该告警是否恢复。

    • 是,操作结束。
    • 否,执行8

检查是否HDFS各DataNode实例之间网络传输速率低。

  1. 在FusionInsight Manager界面选择“集群 > 服务 > HDFS > 实例 > 图表 > 性能”,查看监控图表“每秒出现慢WritePacketToDownStream的次数”、“每秒出现慢AckToUpstream的次数”是否存在数值高的监控指标。

    • 是,执行9
    • 否,执行13

  2. 使用omm用户登录1中获取的DataNode主机IP地址,使用如下命令查看运行日志。

    cd /var/log/Bigdata/hdfs/dn/

    vim hadoop-omm-datanode-主机名.log

  3. 在日志中搜索关键字“slow”,确认发生慢操作的上下游节点信息。

  4. 检查当前节点与10中获取的节点之间的网络通信是否通畅。

    • 是,执行13
    • 否,联系网络管理员修复网络。

  5. 等待5分钟,检查该告警是否恢复。

    • 是,操作结束。
    • 否,执行13

收集故障信息。

  1. 在FusionInsight Manager界面,选择“运维 > 日志 > 下载”。
  2. 在“服务”框中勾选待操作集群的“HDFS”。
  3. 单击右上角的时间编辑按钮,设置日志收集的“开始时间”和“结束时间”分别为告警产生时间的前后10分钟,单击“下载”。
  4. 请联系运维人员,并发送已收集的故障日志信息。

告警清除

此告警修复后,系统会自动清除此告警,无需手工清除。

参考信息

不涉及。