文件大小。 配置描述 进入Mapreduce服务参数“全部配置”界面，具体操作请参考修改集群服务配置参数章节。 在搜索框中输入参数名称，修改并保存配置。然后在Mapreduce服务“概览”页面选择“更多 > 同步配置”。同步完成后重启Mapreduce服务。 作业日志参数： 表1

查看更多 →

文件大小。 配置描述 进入Mapreduce服务参数“全部配置”界面，具体操作请参考修改集群服务配置参数章节。 在搜索框中输入参数名称，修改并保存配置。然后在Mapreduce服务“概览”页面选择“更多 > 同步配置”。同步完成后重启Mapreduce服务。 作业日志参数： 表1

查看更多 →

合并CBO优化 操作场景 Spark SQL默认支持基于规则的优化，但仅仅基于规则优化不能保证Spark选择合适的查询计划。CBO（Cost-Bsed Optimizer）是一种为SQL智能选择查询计划的技术。通过配置开启CBO后，CBO优化器可以基于表和列的统计信息，进行一系列的估算，最终选择出合适的查询计划。

查看更多 →

合并报告可以合并多少个？ 最多35个 父主题： 验证中心

查看更多 →

5版本有哪些优势？ 表1 Spark 2.4.5版本优势 特性 说明 支持配置小文件合并 使用SQL过程中，生成的小文件过多时，会导致作业执行时间过长，且查询对应表时耗时增大，建议对小文件进行合并。 参考如何合并小文件完成合并小文件。 支持修改非分区表或分区表的列注释 修改非分区表或分区表的列注释。

查看更多 →

Native引擎 配置Spark事件队列大小 配置parquet表的压缩格式 使用Ranger时适配第三方JDK 使用Spark小文件合并工具说明 使用Spark小文件合并工具说明 配置流式读取Spark Driver执行结果 配置Spark Executor退出时执行自定义代码 配置Spark动态脱敏

查看更多 →

创建Squash合并 Squash合并是将合并请求的所有变更提交信息合并为一个，以此简洁提交信息。当您在处理功能分支只关注当前提交进度，而不关注提交信息时，可使用squash merge。 当勾选Squash合并，可将源分支的多个连续变更记录合并为一个提交记录（Squash提交信息），提交到目标分支。

查看更多 →

合并CBO优化 操作场景 Spark SQL默认支持基于规则的优化，但仅仅基于规则优化不能保证Spark选择合适的查询计划。CBO（Cost-Bsed Optimizer）是一种为SQL智能选择查询计划的技术。通过配置开启CBO后，CBO优化器可以基于表和列的统计信息，进行一系列的估算，最终选择出合适的查询计划。

查看更多 →

置为0，会关闭此功能。由于批处理中分区中插入记录的数量众多，总会出现小文件。Hudi提供了一个选项，可以通过将对该分区中的插入作为对现有小文件的更新来解决小文件的问题。此处的大小是被视为“小文件大小”的最小文件大小。 104857600 byte hoodie.copyonwrite

查看更多 →

SQL性能 优化小文件场景下的Spark SQL性能 Spark INSERT SELECT语句调优 配置多并发客户端连接JD BCS erver 配置SparkSQL的分块个数 Spark动态分区插入场景内存优化 小文件优化 聚合算法优化 Datasource表优化 合并CBO优化 多

查看更多 →

join优化 优化数据倾斜场景下的Spark SQL性能 优化小文件场景下的Spark SQL性能 Spark INSERT SELECT语句调优 动态分区插入场景内存优化 小文件优化 聚合算法优化 Datasource表优化 合并CBO优化 多级嵌套子查询以及混合Join的SQL调优 父主题：

查看更多 →

PO收货打印【合并】 【功能说明】 用于PC端采集点收并打印供应商到货物料的合并批次，并自动创建采购送货单及送货单明细 【操作步骤】 物料批次打印：选择供应商，选择采购单号，根据采购单号过滤产品料号，选择产品料号 -> 依次输入生产日期、生产批次、启动数量、备品启动数量、每包标准个数、每箱标准包数

查看更多 →

具体操作： 客户首先需要在【发货单管理】维护业务单据信息。 勾选两个订单，单击“确认发货”按钮，选择合并发货，选择合并发货的条件，以及生成的送货单的业务类型，若符合，合并发货的条件，两个发货单将合并生成一个送货订单。 图5 发货单管理 父主题： 实施步骤

查看更多 →

配置Spark事件队列大小 配置parquet表的压缩格式 使用Ranger时适配第三方JDK 使用Spark小文件合并工具说明 配置流式读取Spark Driver执行结果 父主题： 使用Spark2x（ MRS 3.x及之后版本）

查看更多 →

用非spark用户时需要对文件进行更改owner为Beeline端的用户，即实际用户。 如果查询的数据是大量的小文件将会产生大量map操作，从而导致输出存在大量的小文件，在执行重命名文件操作时将会耗费较多时间，此时可以通过设置“spark.sql.files.maxPartitionBytes”与“spark

查看更多 →

ion原理。 Structured Streaming，详见Structured Streaming原理。 小文件优化。 聚合算法优化。 Datasource表优化。 合并CBO优化。 父主题： Spark2x

查看更多 →

合并本地上传文件 功能介绍 合并本地上传文件。 URI URI格式 GET /softcomai/datalake/collection/v1.0/upload/complete 参数说明 参数名 是否必选 参数类型 备注 uploadId 是 String 文件唯一标识。 请求

查看更多 →

描述 默认值 mapreduce.reduce.merge.inmem.threshold 内存合并进程的文件数阈值。累计文件数达到阈值时会发起内存合并及溢出到磁盘。小于等于0的值表示该阈值不生效且仅基于ramfs的内存使用情况来触发合并。 1000 mapreduce.reduce

查看更多 →

描述 默认值 mapreduce.reduce.merge.inmem.threshold 内存合并进程的文件数阈值。累计文件数达到阈值时会发起内存合并及溢出到磁盘。小于等于0的值表示该阈值不生效且仅基于ramfs的内存使用情况来触发合并。 1000 mapreduce.reduce

查看更多 →

用非spark用户时需要对文件进行更改owner为Beeline端的用户，即实际用户。 如果查询的数据是大量的小文件将会产生大量map操作，从而导致输出存在大量的小文件，在执行重命名文件操作时将会耗费较多时间，此时可以通过设置“spark.sql.files.maxPartitionBytes”与“spark

查看更多 →

送货批号采集【合并】（PDA） 【功能说明】 用于采集供应商的非系统生成的物料批号，并与送货单绑定 【操作步骤】 查询送货单号：选择查询条件：开始日期和结束日期必选，默认为当前日期的前一个月，业务类型和工厂名称根据需要选择 -> 单击“获取送货单”按钮，查询出符合条件的送货单； 图1

查看更多 →