-
MapReduce二次开发远程调试
![]()
MapReduce为分布式计算框架，Map/Reduce任务启动所在的节点存在不确定性，建议将集群内NodeManager实例只保留一个运行，其他全部停止，以保证任务一定会在这个唯一运行的NodeManager节点上启动。 在客户端提交MapReduce任务，在Map/Reduce任务启动时会挂起并监测8000端口，等待远程调试。
来自：帮助中心 -
MapReduce REST API接口介绍
![]()
通过这个接口，可以查询当前集群中已完成的MapReduce任务，并且可以得到表1 表1 常用信息 参数 参数描述 submitTime 任务提交时间 startTime 任务开始执行时间 finishTime 任务执行完成时间 queue 任务队列 user 提交这个任务的用户 state 任务执行成功或失败
来自：帮助中心 -
MapReduce REST API接口介绍
![]()
通过这个接口，可以查询当前集群中已完成的MapReduce任务，并且可以得到表1 表1 常用信息 参数 参数描述 submitTime 任务提交时间 startTime 任务开始执行时间 finishTime 任务执行完成时间 queue 任务队列 user 提交这个任务的用户 state 任务执行成功或失败
来自：帮助中心 -
MapReduce应用开发常见问题
![]()
MapReduce应用开发常见问题 MapReduce接口介绍 提交MapReduce任务时客户端长时间无响应 MapReduce二次开发远程调试 父主题： MapReduce开发指南（普通模式）
来自：帮助中心 -
Hive应用开发常用概念
![]()
率。 WebHCat WebHCat运行用户通过Rest API来执行Hive DDL，提交MapReduce任务，查询MapReduce任务执行结果等操作。 父主题： Hive应用开发概述
来自：帮助中心 -
ResourceManager进行主备切换后，任务中断后运行时间过长
![]()
ResourceManager进行主备切换后，任务中断后运行时间过长 问题 在MapReduce任务运行过程中，ResourceManager发生主备切换，切换完成后，MapReduce任务继续执行，此时任务的运行时间过长。 回答 因为ResourceManager HA已启用，但是Work-preserving
来自：帮助中心 -
ResourceManager进行主备切换后，任务中断后运行时间过长
![]()
ResourceManager进行主备切换后，任务中断后运行时间过长 问题 在MapReduce任务运行过程中，ResourceManager发生主备切换，切换完成后，MapReduce任务继续执行，此时任务的运行时间过长。 回答 因为ResourceManager HA已启用，但是Work-preserving
来自：帮助中心 -
Hive应用开发简介
![]()
率。 WebHCat WebHCat运行用户通过Rest API来执行Hive DDL，提交MapReduce任务，查询MapReduce任务执行结果等操作。 父主题： Hive开发指南（普通模式）
来自：帮助中心 -
MapReduce Action
![]()
MapReduce Action 功能描述 MapReduce任务节点，负责执行一个map-reduce任务。 参数解释 MapReduce Action节点中包含的各参数及其含义，请参见表1。 表1 参数含义 参数 含义 name map-reduce action的名称 resourceManager
来自：帮助中心 -
Hive应用开发常用概念
![]()
率。 WebHCat WebHCat运行用户通过Rest API来执行Hive DDL，提交Mapreduce任务，查询Mapreduce任务执行结果等操作。 父主题： Hive应用开发概述
来自：帮助中心 -
Hive应用开发常用概念
![]()
率。 WebHCat WebHCat运行用户通过Rest API来执行Hive DDL，提交MapReduce任务，查询MapReduce任务执行结果等操作。 父主题： Hive应用开发概述
来自：帮助中心 -
MapReduce应用开发常见问题
![]()
-
MapReduce应用开发常见问题
![]()
MapReduce应用开发常见问题 MapReduce接口介绍 提交MapReduce任务时客户端长时间无响应 MapReduce二次开发远程调试 父主题： MapReduce开发指南（普通模式）
来自：帮助中心 -
Hive基本原理
![]()
Driver：管理HQL执行的生命周期并贯穿Hive任务整个执行期间。 Compiler：编译HQL并将其转化为一系列相互依赖的Map/Reduce任务。 Optimizer：优化器，分为逻辑优化器和物理优化器，分别对HQL生成的执行计划和MapReduce任务进行优化。 Executor：按照任务的依赖关系分别执行Map/Reduce任务。
来自：帮助中心 -
执行select语句时报错“Execution Error return code 2”
![]()
return code 2 from ... 这个报错return code2说明是在执行mapreduce任务期间报错导致任务失败。 原因分析 进入Yarn原生页面查看MapReduce任务的日志看到报错是无法识别到压缩方式导致错误，看文件后缀是gzip压缩，堆栈却报出是zlib方式。
来自：帮助中心 -
开启Native Task特性后，Reduce任务在部分操作系统运行失败
![]()
开启Native Task特性后，Reduce任务在部分操作系统运行失败 问题 开启Native Task特性后，Reduce任务在部分操作系统运行失败。 回答 运行包含Reduce的Mapreduce任务时，通过-Dmapreduce.job.map.output.collector
来自：帮助中心 -
MapReduce应用开发常见问题
![]()
MapReduce应用开发常见问题 MapReduce接口介绍 提交MapReduce任务时客户端长时间无响应 网络问题导致运行应用程序时出现异常 MapReduce二次开发远程调试 父主题： MapReduce开发指南（安全模式）
来自：帮助中心 -
MapReduce应用开发常见问题
![]()
MapReduce应用开发常见问题 MapReduce接口介绍 提交MapReduce任务时客户端长时间无响应 网络问题导致运行应用程序时出现异常 MapReduce二次开发远程调试 父主题： MapReduce开发指南（安全模式）
来自：帮助中心 -
MapReduce REST API接口介绍
![]()
通过这个接口，可以查询当前集群中已完成的MapReduce任务，并且可以得到表1 表1 常用信息 参数 参数描述 submitTime 任务提交时间 startTime 任务开始执行时间 finishTime 任务执行完成时间 queue 任务队列 user 提交这个任务的用户 state 任务执行成功或失败
来自：帮助中心 -
在缓存中找不到HDFS_DELEGATION_TOKEN如何处理
![]()
_TOKEN。 为了能够在随后的工作中再次使用同一个Token，为MapReduce任务配置参数。当参数为false时，用户能够再次使用同一个Token。 jobConf.setBoolean("mapreduce.job.complete.cancel.delegation.tokens"
来自：帮助中心 -
执行analyze table语句，因资源不足出现任务卡住
![]()
hivetable2 compute statistics语句时，由于该sql语句会启动MapReduce任务。从YARN的ResourceManager Web UI页面看到，该任务由于资源不足导致任务没有被执行，表现出任务卡住的现象。 图1 ResourceManager Web UI页面 建议用户执行analyze
来自：帮助中心
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
