，则表示集群不支持此功能，需要按照如下操作增加该参数或修改参数值进行开启。 本章节操作适用于 MRS 3.x及之后版本。 配置描述 在客户端的“mapred-site.xml”配置文件中进行如下配置。“mapred-site.xml”配置文件在客户端安装路径的config目录下，例

查看更多 →

单击“并行文件系统 > 创建并行文件系统”，创建一个名称为wordcount01的文件系统。 wordcount01仅为示例，文件系统名称必须全局唯一，否则会创建并行文件系统失败。 在OBS文件系统列表中单击文件系统名称wordcount01，选择“文件 > 新建文件夹”，分别创

查看更多 →

多的内存来管理。AM默认分配的内存堆大小是1GB。 操作步骤 通过调大如下的参数来进行AM调优。 参数入口： 在Yarn客户端的“mapred-site.xml”配置文件中调整如下参数。“mapred-site.xml”配置文件在客户端安装路径的conf目录下，例如“/opt/client/Yarn/config”。

查看更多 →

通过Windows系统提交MapReduce任务 配置场景 用户将MapReduce任务从Windows上提交到Linux上运行，则“mapreduce.app-submission.cross-platform”参数值需配置为“true”。如果集群无此参数，或参数值为“fals

查看更多 →

MapReduce任务commit阶段优化 操作场景 默认情况下，如果一个MR任务会产生大量的输出结果文件，那么该job在最后的commit阶段会耗费较长的时间将每个task的临时输出结果commit到最终的结果输出目录。特别是在大集群中，大Job的commit过程会严重影响任务的性能表现。

查看更多 →

当使用load导入数据到Hive表的时候，属于需要跨文件系统的情况（例如原数据在HDFS上，而Hive表数据存放在OBS上），并且文件长度大于阈值（默认32 MB），则会触发使用distcp的MapReduce任务来执行数据迁移操作。这个MapReduce任务配置直接从Spark任务配置里面提取，但是Spark任务的net

查看更多 →

配置MapReduce Job基线 操作场景 确定Job基线是调优的基础，一切调优项效果的检查，都是通过和基线数据做对比来获得。 Job基线的确定有如下三个原则： 充分利用集群资源 reduce阶段尽量放在一轮 每个task的执行时间要合理 操作步骤 原则一：充分利用集群资源。

查看更多 →

单击“并行文件系统 > 创建并行文件系统”，创建一个名称为wordcount01的文件系统。 wordcount01仅为示例，文件系统名称必须全局唯一，否则会创建并行文件系统失败。 在OBS文件系统列表中单击文件系统名称wordcount01，选择“文件 > 新建文件夹”，分别创

查看更多 →

提升HBase BulkLoad工具批量加载效率 操作场景 批量加载功能采用了MapReduce jobs直接生成符合HBase内部数据格式的文件，然后把生成的StoreFiles文件加载到正在运行的集群。使用批量加载相比直接使用HBase的API会节约更多的CPU和网络资源。

查看更多 →

Shell命令 Hadoop基本shell命令，包括提交MapReduce作业，终止MapReduce作业，进行HDFS文件系统各项操作等。 MapReduce输入输出（InputFormat、OutputFormat） MapReduce框架根据用户指定的InputFormat切割数据

查看更多 →

下载认证凭据”，保存后解压得到用户的keytab文件与krb5.conf文件。 图12 下载认证凭据 执行MapReduce程序 本小节提供执行MapReduce程序的操作指导，旨在指导用户在安全集群模式下运行程序。 前提条件 已编译好待运行的程序及对应的数据文件，如mapreduce-examples-1

查看更多 →

shell命令 Hadoop基本shell命令，包括提交MapReduce作业，kill MapReduce作业，进行HDFS文件系统各项操作等。 MapReduce输入输出(InputFormat，OutputFormat) MapReduce框架根据用户指定的InputFormat切割数

查看更多 →

准备MapReduce应用运行环境 MapReduce的运行环境可以部署在Linux环境下。您可以按照如下操作完成运行环境准备。 操作步骤 确认服务端YARN组件和MapReduce组件已经安装，并正常运行。 客户端运行环境已安装1.7或1.8版本的JDK。 客户端机器的时间与H

查看更多 →

配置使用分布式缓存执行MapReduce任务 配置场景 本章节操作适用于MRS 3.x及之后版本。 分布式缓存在两种情况下非常有用。 滚动升级 在升级过程中，应用程序必须保持文字内容（jar文件或配置文件）不变。而这些内容并非基于当前版本的YARN，而是要基于其提交时的版本。这是

查看更多 →

配置MapReduce Job基线 操作场景 确定Job基线是调优的基础，一切调优项效果的检查，都是通过和基线数据做对比来获得。 Job基线的确定有如下三个原则： 充分利用集群资源 reduce阶段尽量放在一轮 每个task的执行时间要合理 操作步骤 原则一：充分利用集群资源。

查看更多 →

说明：实际的文件中不存在对应的文件格式标题。 监控文件上传间隔： 监控文件上传时间间隔可以在页面通过“转储时间间隔（秒）”配置，目前支持30s-300s之间均可。配置完成后，系统会按照指定的时间间隔，将文件定期上传到对应的FTP/S FTP服务器 。 监控指标说明文件 指标全集文件 指标全

查看更多 →

Mapreduce应用开发规范 Mapreduce应用开发规则 Mapreduce应用开发建议

查看更多 →

MapReduce应用开发简介 Hadoop MapReduce是一个使用简易的并行计算软件框架，基于它写出来的应用程序能够运行在由上千个 服务器 组成的大型集群上，并以一种可靠容错的方式并行处理上T级别的数据集。 一个MapReduce作业（application/job）通常会把

查看更多 →

调测MapReduce应用 编译并运行MapReduce应用 查看MapReduce应用调测结果 父主题： MapReduce开发指南

查看更多 →

调测MapReduce应用 在本地Windows环境中调测MapReduce应用 在Linux环境中调测MapReduce应用 父主题： MapReduce开发指南（普通模式）

查看更多 →

调测MapReduce应用 在本地Windows环境中调测MapReduce应用 在Linux环境中调测MapReduce应用 父主题： MapReduce开发指南（安全模式）

查看更多 →