常会把输入的数据集切分为若干独立的数据块，由map任务（task）以完全并行的方式来处理。框架会对map的输出先进行排序，然后把结果输入给reduce任务，最后返回给客户端。通常作业的输入和输出都会被存储在文件系统中。整个框架负责任务的调度和监控，以及重新执行已经失败的任务。 MapReduce主要特点如下：

查看更多 →

辑，它们组成作业的核心。 MapReduce WebUI界面 用于监控正在运行的或者历史的MapReduce作业在MapReduce框架各个阶段的细节，以及提供日志显示，帮助用户更细粒度地去开发、配置和调优作业。 归档 用来保证所有映射的键值对中的每一个共享相同的键组。 混洗 从

查看更多 →

KooCLI支持的输出格式有哪些？ KooCLI支持三种输出格式：json，table，tsv。默认以json格式输出。您可以使用“--cli-output”参数指定如前所述的任意一种输出格式，您也可以配合使用“--cli-query”选项传入JMESPath表达式，对json结

查看更多 →

实时分析输出 算子简介 将经过数据管道清洗后的数据输出到实时分析，作为实时分析的数据来源。 算子配置 算子配置项如图所示： 算子名称：用户指定这个算子的名称。 管道输出数据名称：用户声明这个输出的名称，以便在实时分析作业的“管道数据输入”算子中使用。 属性：用户选择需要将哪些属性输出给实时分析进行后续的分析任务。

查看更多 →

获取任务输出日志 功能介绍 获取任务输出的日志。 URI URI格式 GET /softcomai/datalake/dataplan/v1.0/tasks/output/{taskId} 参数说明 参数名 是否必选 参数类型 备注 taskId 是 String 任务ID。 请求

查看更多 →

模型输出目录规范 模型导入（转换）任务执行完成后，华为HiLens将转换后的模型输出至指定的OBS路径。针对不同的转换任务，基于Ascend芯片，其模型输出目录需要满足一定的规范要求。华为HiLens当前对模型输出目录的要求如下： 针对基于Caffe框架的模型，执行模型导入（转换）时，其输出目录说明如下所示。

查看更多 →

MRS HBase输出流 功能描述 DLI 将Flink作业的输出数据输出到MRS的HBase中。 前提条件 确保您的账户下已在MapReduce服务（MRS）里创建了您配置的集群。DLI支持与开启kerberos的hbase集群对接。 该场景作业需要运行在DLI的独享队列上，请确保已创建DLI独享队列。

查看更多 →

Kafka服务端的端口如果监听在hostname上，则需要将Kafka Broker节点的hostname和IP的对应关系添加到DLI队列中。Kafka Broker节点的hostname和IP请联系Kafka服务的部署人员。如何添加IP 域名 映射，请参见《 数据湖探索 用户指南》中修改主机信息章节。

查看更多 →

MapReduce Action 功能描述 MapReduce任务节点，负责执行一个map-reduce任务。 参数解释 MapReduce Action节点中包含的各参数及其含义，请参见表1。 表1 参数含义 参数 含义 name map-reduce action的名称 resourceManager

查看更多 →

CloudTable HBase输出流 功能描述 DLI将作业的输出数据输出到CloudTable的HBase中。HBase是一个稳定可靠，性能卓越、可伸缩、面向列的分布式云存储系统，适用于海量数据存储以及分布式计算的场景，用户可以利用HBase搭建起TB至PB级数据规模的存储系统，对数据轻松

查看更多 →

使用MapReduce 配置使用分布式缓存执行MapReduce任务 配置MapReduce shuffle address 配置MapReduce集群管理员列表 通过Windows系统提交MapReduce任务 配置MapReduce任务日志归档和清理机制 MapReduce性能调优

查看更多 →

应用中，不同的键值对应的region不同，这就需要设定特殊的partitioner类分配map的输出结果。 setSortComparatorClass(Class<extends RawComparator> cls) 指定MapReduce作业的map任务的输出结果压缩类，默

查看更多 →

辑，它们组成作业的核心。 MapReduce WebUI界面 用于监控正在运行的或者历史的MapReduce作业在MapReduce框架各个阶段的细节，以及提供日志显示，帮助用户更细粒度地去开发、配置和调优作业。 归档 用来保证所有映射的键值对中的每一个共享相同的键组。 混洗 从

查看更多 →

class”项。该方法用来分配map的输出结果到哪个reduce类，默认使用HashPartitioner，均匀分配map的每条键值对记录。例如在hbase应用中，不同的键值对应的region不同，这就需要设定特殊的partitioner类分配map的输出结果。 setSortComp

查看更多 →

常会把输入的数据集切分为若干独立的数据块，由map任务（task）以完全并行的方式来处理。框架会对map的输出先进行排序，然后把结果输入给reduce任务，最后返回给客户端。通常作业的输入和输出都会被存储在文件系统中。整个框架负责任务的调度和监控，以及重新执行已经失败的任务。 MapReduce主要特点如下：

查看更多 →

MapReduce任务commit阶段优化 操作场景 默认情况下，如果一个MR任务会产生大量的输出结果文件，那么该job在最后的commit阶段，会耗费较长的时间将每个task的临时输出结果commit到最终的结果输出目录。特别是在大集群中，大Job的commit过程会严重影响任务的性能表现。

查看更多 →

MapReduce与其他组件的关系 MapReduce和HDFS的关系 HDFS是Hadoop分布式文件系统，具有高容错和高吞吐量的特性，可以部署在价格低廉的硬件上，存储应用程序的数据，适合有超大数据集的应用程序。 MapReduce是一种编程模型，用于大数据集（大于1TB）的并

查看更多 →

ucPrimaryVo int 可选 主输出口 ucAssistVo int 可选 辅输出口 ucMainVoPort int 可选 Main口使用的逻辑口 ucAuxVoPort int 可选 Aux口使用的逻辑口 ucPcVoPort int 可选 Pc口使用的逻辑口 ucDoubleScreen

查看更多 →

参数说明 id int 32位整数 错误id， code int 32位整数 错误码 param Object param 对象 失败响应的附带参数。 父主题： 硬终端开放性

查看更多 →

tmp_dir: 供resim作业存放临时文件的目录，例如/tmp/workspace 用户的resim作业需要输出的文件类似如下结构： |--- /tmp/output 环境变量output_dir指定的输出目录 |--- opendata_to_platform

查看更多 →

配置HBase应用输出日志 功能介绍 将HBase客户端的日志单独输出到指定日志文件，与业务日志分开，方便分析定位HBase的问题。 如果进程中已经有log4j的配置，需要将“hbase-example\src\main\resources\log4j.properties”中R

查看更多 →