更新时间:2026-10-20 GMT+08:00
分享

分区过少

非热点key导致的数据倾斜场景,当作业分区设置过少时,每个task处理数据量较大,从而产生长尾作业,可以考虑调大分区数。

  • 开启自适应查询执行(Adaptive Query Execution,简称AQE)场景(默认场景):可以调大spark.sql.adaptive.coalescePartitions.minPartitionNum,同时设置spark.sql.adaptive.coalescePartitions.initialPartitionNum为可用的core数。
  • 关闭AQE场景:可以调大spark.sql.shuffle.partitions。

相关文档