HDFS中各模块间的RPC通道，如DataNode与NameNode间的RPC通道。 客户端访问Yarn的RPC通道。 NodeManager和ResourceManager间的RPC通道。 Spark访问Yarn，Spark访问HDFS的RPC通道。 MapReduce访问Yarn，Mapreduce访问HDFS的RPC通道。

查看更多 →

点以及华为鲲鹏大数据等； （2）常用且重要大数据组件基础技术原理（包括HBase, Hive, Loader, MapReduce, YARN, HDFS, Spark, Flume, Kafka, ElasticSearch, ZooKeeper, Flink, Redis）；

查看更多 →

KrbServer及LdapServer Kudu Loader Manager MapReduce MemArtsCC Oozie OpenTSDB Presto Ranger Spark Spark2x StarRocks Storm Tez YARN ZooKeeper

查看更多 →

执行analyze table语句，因资源不足出现任务卡住 问题 使用spark-sql执行analyze table语句，任务一直卡住，打印的信息如下： spark-sql> analyze table hivetable2 compute statistics; Query ID

查看更多 →

程启动成功。 为各组件添加或修改配置项，配置项的值与超时时间一致，单位为秒。 HDFS/MapReduce/Yarn：添加自定义配置项http.server.session.timeout.secs Spark：修改配置spark.session.maxAge的值 Hive：添加自定义配置项http

查看更多 →

操作步骤 参考获取 MRS 应用开发样例工程，获取样例代码解压目录中“src\oozie-examples\oozienormal-examples”目录下的“OozieMapReduceExample、OozieSparkHBaseExample和OozieSparkHiveExample三个样例工程。

查看更多 →

，操作系统：CentOS 7.5） 软件：Ambari：2.7.1.0，HDP：3.0.1.0 部署视图 更新OBSA-HDFS工具 下载与hadoop版本配套的OBSA-HDFS工具：下载地址。 下载OBSA-HDFS工具的jar包（如hadoop-huaweicloud-3.1

查看更多 →

只有包含Spark和Hive组件的集群才能新增Spark和Hive类型的作业。 取值范围： 1：MapReduce 2：Spark 3：Hive Script 4：HiveSQL（当前不支持） 5：DistCp，导入、导出数据。 6：Spark Script 7：Spark SQL，提交SQL语句，（该接口当前不支持）

查看更多 →

数据库类 DLV 支持以下几种数据库： 数据仓库 服务（DWS） 数据湖探索 （ DLI ） MapReduce服务（MRS Hive） MapReduce服务（MRS SparkSQL） MapReduce服务（ClickHouse） 云数据库 MySQL 云数据库 PostgreSQL 云数据库

查看更多 →

程启动成功。 为各组件添加或修改配置项，配置项的值与超时时间一致，单位为秒。 HDFS/MapReduce/Yarn：添加自定义配置项http.server.session.timeout.secs Spark：修改配置spark.session.maxAge的值 Hive：添加自定义配置项http

查看更多 →

开发MapReduce应用 MapReduce统计样例程序 MapReduce访问多组件样例程序 父主题： MapReduce开发指南（普通模式）

查看更多 →

MapReduce接口介绍 MapReduce Java API接口介绍 MapReduce REST API接口介绍 父主题： MapReduce应用开发常见问题

查看更多 →

176:21003/oozie 选择运行的样例工程： OozieMapReduceExcample样例工程，执行5。 OozieSparkHBaseExample和OozieSparkHiveExample样例工程，请参考使用Oozie调度Spark2x访问HBase以及Hive。 使用客户端上传

查看更多 →

普通模式，执行5。 配置Hue。 spark2x环境配置（如果不涉及spark2x任务，可以跳过此步骤）： hdfs dfs -put /opt/client/Spark2x/spark/jars/*.jar /user/oozie/share/lib/spark2x/ 当HDFS目录“/

查看更多 →

普通模式，执行5。 配置Hue。 Spark2x环境配置（如果不涉及spark2x任务，可以跳过此步骤）： hdfs dfs -put /opt/client/Spark2x/spark/jars/*.jar /user/oozie/share/lib/spark2x/ 当HDFS目录“/

查看更多 →

程启动成功。 为各组件添加或修改配置项，配置项的值与超时时间一致，单位为秒。 HDFS/MapReduce/Yarn：添加自定义配置项http.server.session.timeout.secs Spark：修改配置spark.session.maxAge的值 Hive：添加自定义配置项http

查看更多 →

DLV的数据连接支持以下几种： 数据库类：包括数据仓库服务（DWS）、 数据湖 探索服务（DLI）、 MapReduce服务 （MRS）的Hive、MapReduce服务（MRS）的SparkSQL、云数据库（RDS）MySQL、云数据库（RDS）PostgreSQL、云数据库（RDS）SQL

查看更多 →

Spark Core 日志聚合下，如何查看Spark已完成应用日志 Driver返回码和RM WebUI上应用状态显示不一致 为什么Driver进程不能退出 网络连接超时导致FetchFailedException 当事件队列溢出时如何配置事件队列的大小 Spark应用执行过程中

查看更多 →

map 是 - 数据处理规则 当配置SparkSQL表名不存在时，作业提交失败。 当配置的列名与SparkSQL表列名不匹配时，读取不到数据，导入数据条数会为0。 当字段的值与实际的类型不匹配时，该行数据会成为脏数据。 样例 以SPARK导出到sqlserver2014数据库为例。

查看更多 →

Spark输出 概述 “Spark输出”算子，用于配置已生成的字段输出到SparkSQL表的列。 输入与输出 输入：需要输出的字段 输出：SparkSQL表 参数说明 表1 算子参数说明 参数 含义 类型 是否必填 默认值 Spark文件存储格式 配置SparkSQL表文件的存储

查看更多 →

使用Spark 运行Spark应用时修改split值报错 提交Spark任务时提示参数格式错误 磁盘容量不足导致Spark、Hive和Yarn服务不可用 引入jar包不正确导致Spark任务无法运行 Spark任务由于内存不够或提交作业时未添加Jar包，作业卡住 提交Spark任务

查看更多 →