文档首页/
MapReduce服务 MRS/
组件操作指南（普通版）/
使用Spark2x（MRS 3.x及之后版本）/
Spark2x常见问题/
Spark Core/
使用Hash shuffle出现任务失败
更新时间：2022-09-30 GMT+08:00
使用Hash shuffle出现任务失败
问题
使用Hash shuffle运行1000000（map个数）*100000（reduce个数）的任务，运行日志中出现大量的消息发送失败和Executor心跳超时，从而导致任务失败。
回答
对于Hash shuffle，在shuffle的过程中写数据时不做排序操作，只是将数据根据Hash的结果，将各个reduce分区的数据写到各自的磁盘文件中。
这样带来的问题是如果reduce分区的数量比较大的话，将会产生大量的磁盘文件（比如：该问题中将产生1000000 * 100000 = 10^11个shuffle文件）。如果磁盘文件数量特别巨大，对文件读写的性能会带来比较大的影响，此外由于同时打开的文件句柄数量多，序列化以及压缩等操作需要占用非常大的临时内存空间，对内存的使用和GC带来很大的压力，从而容易造成Executor无法响应Driver。
因此，建议使用Sort shuffle，而不使用Hash shuffle。
父主题： Spark Core
