自定义排序器 编写自定义排序类继承BulkInsertPartitioner，在写入Hudi时加入配置： .option(BULKINSERT_USER_DEFINED_PARTITIONER_CLASS, <自定义排序类的包名加类名>) 自定义分区排序器样例： public class

查看更多 →

执行大数据量的shuffle过程时Executor注册shuffle service失败 问题 执行超过50T数据的shuffle过程时，出现部分Executor注册shuffle service超时然后丢失从而导致任务失败的问题。错误日志如下所示： 2016-10-19 01:33:34

查看更多 →

使用Hash shuffle出现任务失败 问题 使用Hash shuffle运行1000000（map个数）*100000（reduce个数）的任务，运行日志中出现大量的消息发送失败和Executor心跳超时，从而导致任务失败。 回答 对于Hash shuffle，在shuffle的过程

查看更多 →

使用Hash shuffle出现任务失败 问题 使用Hash shuffle运行1000000（map个数）*100000（reduce个数）的任务，运行日志中出现大量的消息发送失败和Executor心跳超时，从而导致任务失败。 回答 对于Hash shuffle，在shuffle的过程

查看更多 →

优化数据结构 把数据按列存放，读取数据时就可以只扫描需要的列。 使用Hash Shuffle时，通过设置spark.shuffle.consolidateFiles为true，来合并shuffle中间文件，减少shuffle文件的数量，减少文件IO操作以提升性能。最终文件数为reduce tasks数目。

查看更多 →

自定义排序器 编写自定义排序类继承BulkInsertPartitioner，在写入Hudi时加入配置： .option(BULKINSERT_USER_DEFINED_PARTITIONER_CLASS, <自定义排序类的包名加类名>) 自定义分区排序器样例： public class

查看更多 →

自定义排序器 编写自定义排序类继承BulkInsertPartitioner，在写入Hudi时加入配置： .option(BULKINSERT_USER_DEFINED_PARTITIONER_CLASS, <自定义排序类的包名加类名>) 自定义分区排序器样例： public class

查看更多 →

MapReduce MapReduce基本原理 MapReduce与其他组件的关系 MapReduce开源增强特性 父主题： 组件介绍

查看更多 →

repartition重分区之后，还要进行排序，建议直接使用repartitionAndSortWithinPartitions 算子。因为该算子 可以一边进行重分区的shuffle操作，一边进行排序。shuffle与sort两个操作同时进行，比先shuffle再sort来说，性能可能是要高的。

查看更多 →

如何打开视频画面智能排序？ 在会中依次选择“更多 > 设置 > 视频”，在视频画面排序中，勾选“智能排序”即可，开启视频画面智能排序后，发言人和开启视频与会者将智能排前，查看更加方便。 父主题： 客户端业务使用

查看更多 →

使用External Shuffle Service提升性能 操作场景 Spark系统在运行含shuffle过程的应用时，Executor进程除了运行task，还要负责写shuffle数据，给其他Executor提供shuffle数据。当Executor进程任务过重，导致GC而不

查看更多 →

MapReduce Action 功能描述 MapReduce任务节点，负责执行一个map-reduce任务。 参数解释 MapReduce Action节点中包含的各参数及其含义，请参见表1。 表1 参数含义 参数 含义 name map-reduce action的名称 resourceManager

查看更多 →

如何修改字符集排序规则 DAS不提供SQL Server 的图形化修改，可以使用以下命令实现。 进入数据库的SQL查询界面，在SQL窗口中输入以下命令。 以设置简体中文为例：将数据库test的字符集设置为简体中文。 use root go ALTER DATABASE test COLLATE

查看更多 →

MapReduce Action 功能描述 MapReduce任务节点，负责执行一个map-reduce任务。 参数解释 MapReduce Action节点中包含的各参数及其含义，请参见表1。 表1 参数含义 参数 含义 name map-reduce action的名称 resourceManager

查看更多 →

散；单击添加离散点。 “不离散”：（默认）不做归一化，不对数据做处理。 待提取物品特征 排序模型需要经特征工程处理后的数据， 选择排序模型需要的物品特征，未选择的物品特征将不会被处理，即排序模块将忽略这些特征。 说明： 离散的区间个数不能超过100个，请您根据业务需求合理分配参数值。

查看更多 →

文件列表是否支持排序？ 文件列表支持按照“大小”和“最后修改时间”进行排序，您可以单击参数后的按钮对文件进行排序。 最后修改时间排序，支持前1000个文件按照时间排序。如果并行文件系统内文件数量超过5000条，文件列表按照英文单词在字典中的先后顺序进行排序，且只支持按文件名的前缀搜索。

查看更多 →

目标库排序字符集检查 目标数据库的主键或者唯一键列，在不区分大小写的排序字符集下，即“…_ci”结尾的不区分大小写的排序字符集，可能在数据迁移时发生“重复键”报错，导致数据迁移失败。 不通过原因 目标库的排序字符集不支持。 处理建议 修改目标端的排序字符集至区分大小写的（非_ci结尾的）排序字符集。

查看更多 →

格式为yyyy/mm/dd。 分区排序： 配置项 说明 hoodie.bulkinsert.user.defined.partitioner.class 指定分区排序类，可自行定义排序方法，具体参考样例代码。 bulk_insert默认字符排序，仅适用于StringType的主键。

查看更多 →

运行Spark任务发现大量shuffle结果丢失 问题现象 Spark任务运行失败，查看任务日志发现大量打印shuffle文件丢失。 原因分析 Spark运行的时候会将临时产生的shuffle文件放在executor的临时目录中，方便后面获取。 而当某个executor异常退出时

查看更多 →

由于Timeout waiting for task异常导致Shuffle FetchFailed 问题 使用JD BCS erver模式执行100T的TPCDS测试套，出现Timeout waiting for task异常导致Shuffle FetchFailed，Stage一直重试，任务无法正常完成。

查看更多 →

使用External Shuffle Service提升Spark Core性能 操作场景 Spark系统在运行含shuffle过程的应用时，Executor进程除了运行task，还要负责写shuffle数据以及给其他Executor提供shuffle数据。当Executor进程任务过重，导致触发GC（Garbage

查看更多 →