更新时间:2026-10-20 GMT+08:00
分区过少
非热点key导致的数据倾斜场景,当作业分区设置过少时,每个task处理数据量较大,从而产生长尾作业,可以考虑调大分区数。
- 开启自适应查询执行(Adaptive Query Execution,简称AQE)场景(默认场景):可以调大spark.sql.adaptive.coalescePartitions.minPartitionNum,同时设置spark.sql.adaptive.coalescePartitions.initialPartitionNum为可用的core数。
- 关闭AQE场景:可以调大spark.sql.shuffle.partitions。
父主题: 数据倾斜排查及解决方法