迁移任务配置设置 功能介绍 配置迁移任务特殊设置，例如配置指定同步的文件或路径 调用方法 请参见如何调用API。 URI POST /v3/tasks/{task_id}/configuration-setting 表1 路径参数 参数 是否必选 参数类型 描述 task_id 是

查看更多 →

进入Yarn服务参数“全部配置”界面，在搜索框中输入参数名称。具体操作请参考修改集群服务配置参数章节。 参数 描述 默认值 mapreduce.map.speculative 设置是否并行执行某些映射任务的多个实例。true表示开启。 false mapreduce.reduce.speculative

查看更多 →

进入Yarn服务参数“全部配置”界面，在搜索框中输入参数名称。具体操作请参考修改集群服务配置参数章节。 参数 描述 默认值 mapreduce.map.speculative 设置是否并行执行某些映射任务的多个实例。true表示开启。 false mapreduce.reduce.speculative

查看更多 →

如何在提交MapReduce任务时设置任务优先级 问题 如何在提交MapReduce任务时设置任务优先级？ 回答 当您在客户端提交MapReduce任务时，可以在命令行中增加“-Dmapreduce.job.priority=<priority>”参数来设置任务优先级。格式如下：

查看更多 →

如何在提交MapReduce任务时设置任务优先级 问题 如何在提交MapReduce任务时设置任务优先级？ 回答 当您在客户端提交MapReduce任务时，可以在命令行中增加“-Dmapreduce.job.priority=<priority>”参数来设置任务优先级。格式如下：

查看更多 →

Job运行时，会让所有的节点都有任务处理，且处于繁忙状态，这样才能保证资源充分利用，任务的并发度达到最大。可以通过调整处理的数据量大小，以及调整map和reduce个数来实现。 reduce个数的控制使用“mapreduce.job.reduces”。 map个数取决于使用了哪种Inpu

查看更多 →

setNumMapTasks(int n) 核心接口，指定MapReduce作业的map个数。也可以在“mapred-site.xml”中配置“mapreduce.job.maps”项。 说明： 指定的InputFormat类用来控制map任务个数，注意该类是否支持客户端设定map个数。 setNumReduceTasks(int

查看更多 →

setNumMapTasks(int n) 核心接口，指定MapReduce作业的map个数。也可以在“mapred-site.xml”中配置“mapreduce.job.maps”项。 说明： 指定的InputFormat类用来控制map任务个数，注意该类是否支持客户端设定map个数。 setNumReduceTasks(int

查看更多 →

setNumMapTasks(int n) 核心接口，指定MapReduce作业的map个数。也可以在“mapred-site.xml”中配置“mapreduce.job.maps”项。 说明： 指定的InputFormat类用来控制map任务个数，注意该类是否支持客户端设定map个数。 setNumReduceTasks(int

查看更多 →

Job运行时，会让所有的节点都有任务处理，且处于繁忙状态，这样才能保证资源充分利用，任务的并发度达到最大。可以通过调整处理的数据量大小，以及调整map和reduce个数来实现。 reduce个数的控制使用“mapreduce.job.reduces”。 map个数取决于使用了哪种Inpu

查看更多 →

setNumMapTasks(int n) 核心接口，指定MapReduce作业的map个数。也可以在“mapred-site.xml”中配置“mapreduce.job.maps”项。 说明： 指定的InputFormat类用来控制map任务个数，注意该类是否支持客户端设定map个数。 setNumReduceTasks(int

查看更多 →

setNumMapTasks(int n) 核心接口，指定MapReduce作业的map个数。也可以在“mapred-site.xml”中配置“mapreduce.job.maps”项。 说明： 指定的InputFormat类用来控制map任务个数，注意该类是否支持客户端设定map个数。 setNumReduceTasks(int

查看更多 →

Archives启动的并行归档任务数（Map数）与待归档的日志文件总大小有关。计算公式为：并行归档任务数=待归档的日志文件总大小/归档文件大小。 配置描述 进入Mapreduce服务参数“全部配置”界面，具体操作请参考修改集群服务配置参数章节。 在搜索框中输入参数名称，修改并保存配置。然后在Mapreduce服务“概览”页面选择“更多

查看更多 →

Archives启动的并行归档任务数（Map数）与待归档的日志文件总大小有关。计算公式为：并行归档任务数=待归档的日志文件总大小/归档文件大小。 配置描述 进入Mapreduce服务参数“全部配置”界面，具体操作请参考修改集群服务配置参数章节。 在搜索框中输入参数名称，修改并保存配置。然后在Mapreduce服务“概览”页面选择“更多

查看更多 →

ALM-18006 执行MapReduce任务超时（2.x及以前版本） 告警解释 告警模块每30秒周期性检测MapReduce任务。任务提交后，当检测到MapReduce任务执行时间超过指定时间时，产生该告警。 该告警需要手动清除。 告警属性 告警ID 告警级别 可自动清除 18006

查看更多 →

配置SparkSQL的分块个数 配置场景 SparkSQL在进行shuffle操作时默认的分块数为200。在数据量特别大的场景下，使用默认的分块数就会造成单个数据块过大。如果一个任务产生的单个shuffle数据块大于2G，该数据块在被fetch的时候还会报类似错误： Adjusted

查看更多 →

根据作业对象、任务类型及任务状态获取任务个数（API名称：getTaskNumByJobObject） 功能介绍 该接口用于根据作业对象、任务类型及任务状态获取任务个数。 相关API 接口名称 调用说明 获取Token 调用该接口获取到Token，再调用其他接口时，需要在请求消息

查看更多 →

name"); // 设置找到主任务所在的jar包。 job.setJar("D:\\job-examples.jar"); // job.setJarByClass(TestWordCount.class); // 设置运行时执行map，reduce的类，也可以通过配置文件指定。 job

查看更多 →

查看评测详情 单击该任务配置所使用的评测名称，即可查看评测详情。 查看任务配置详情 单击任务配置名称，可查看任务配置详情。 图6 任务配置详情 查询任务配置 可按照＂任务配置ID＂、＂任务配置名称＂、＂算法名称＂、＂评测名称＂、＂任务配置描述＂查询任务配置。 删除任务配置 单击操作栏“

查看更多 →

FS。 配置描述 参数入口： 参考修改集群服务配置参数进入Yarn服务参数“全部配置”界面，在搜索框中输入表1中参数名称，修改并保存配置。然后在Yarn服务“概览”页面选择“更多 > 同步配置”。同步完成后重启Yarn服务。 周期性收集日志功能目前仅支持MapReduce应用，且

查看更多 →

配置SparkSQL的分块个数 配置场景 SparkSQL在进行shuffle操作时默认的分块数为200。在数据量特别大的场景下，使用默认的分块数就会造成单个数据块过大。如果一个任务产生的单个shuffle数据块大于2G，该数据块在被fetch的时候还会报类似错误： Adjusted

查看更多 →