文档首页/ MapReduce服务 MRS/ 故障排除/ 使用Spark/ 查看Spark任务日志失败
更新时间：2023-11-10 GMT+08:00
查看PDF
分享

查看Spark任务日志失败

问题现象

  • 任务运行中查看日志失败。
  • 任务运行完成，但是查看不到日志。

原因分析

  • 问题1：可能原因是MapReduce服务异常。
  • 问题2：可能原因如下：
    • Spark的JobHistory服务异常。
    • 日志太大，NodeManager在做日志汇聚的时候出现超时。
    • HDFS存放日志目录权限异常（默认/tmp/logs/用户名/logs）。
    • 日志已被清理（spark的JobHistory默认存放7天的eventLog，配置项为spark.history.fs.cleaner.maxAge；MapReduce默认存放15天的任务日志，配置项为mapreduce.jobhistory.max-age-ms）。
    • 如果Yarn页面上也找不到，可能是被Yarn清理了（默认存放10000个历史任务，配置项为yarn.resourcemanager.max-completed-applications）。

处理步骤

  • 问题1：确认MapReduce服务是否正常，如果异常，尝试重启服务。如果还是不能恢复，需要查看后台JobhistoryServer日志。
  • 问题2：依次排查可能的情况：
    1. 查看Spark的JobHistory是否运行正常；
    2. 通过查看yarn的app详情页面，确认日志文件是否过大，如果日志汇聚失败，页面的“Log Aggregation Status:”应该显示为失败或者超时；
    3. 查看对应目录权限是否异常；
    4. 查看目录下是否有对应的appid文件（Spark的eventlog存放目录：MRS 3.x及以后版本的目录是hdfs://hacluster/spark2xJobHistory2x，MRS 3.x以前版本的目录是hdfs://hacluster/sparkJobHistory，任务运行日志存放目录是hdfs://hacluster/tmp/logs/用户名/logs）;
    5. 查看appid和当前作业的id是否超过历史记录最大值。
父主题： 使用Spark

相关文档