文档首页/ MapReduce服务 MRS/ 故障排除/ 使用Spark/ 查看Spark任务日志失败
更新时间:2023-11-10 GMT+08:00
分享

查看Spark任务日志失败

问题现象

  • 任务运行中查看日志失败。
  • 任务运行完成,但是查看不到日志。

原因分析

  • 问题1:可能原因是MapReduce服务异常。
  • 问题2:可能原因如下:
    • Spark的JobHistory服务异常。
    • 日志太大,NodeManager在做日志汇聚的时候出现超时。
    • HDFS存放日志目录权限异常(默认/tmp/logs/用户名/logs)。
    • 日志已被清理(spark的JobHistory默认存放7天的eventLog,配置项为spark.history.fs.cleaner.maxAge;MapReduce默认存放15天的任务日志,配置项为mapreduce.jobhistory.max-age-ms)。
    • 如果Yarn页面上也找不到,可能是被Yarn清理了(默认存放10000个历史任务,配置项为yarn.resourcemanager.max-completed-applications)。

处理步骤

  • 问题1:确认MapReduce服务是否正常,如果异常,尝试重启服务。如果还是不能恢复,需要查看后台JobhistoryServer日志。
  • 问题2:依次排查可能的情况:
    1. 查看Spark的JobHistory是否运行正常;
    2. 通过查看yarn的app详情页面,确认日志文件是否过大,如果日志汇聚失败,页面的“Log Aggregation Status:”应该显示为失败或者超时;
    3. 查看对应目录权限是否异常;
    4. 查看目录下是否有对应的appid文件(Spark的eventlog存放目录:MRS 3.x及以后版本的目录是hdfs://hacluster/spark2xJobHistory2x,MRS 3.x以前版本的目录是hdfs://hacluster/sparkJobHistory,任务运行日志存放目录是hdfs://hacluster/tmp/logs/用户名/logs);
    5. 查看appid和当前作业的id是否超过历史记录最大值。

相关文档