准备HDFS应用运行环境 前提条件 1. 确认服务端HDFS组件已经安装，并正常运行。 2. 客户端运行环境已安装1.7或1.8版本的JDK 3. 获取客户端安装包 MRS _Services_Client.tar 操作场景 在Linux上安装客户端。 操作步骤 客户端机器的时间与H

查看更多 →

使用WebHCat的部分REST接口的前置条件 WebHCat的部分REST接口使用依赖于MapReduce的JobHistoryServer实例，具体接口如下： mapreduce/jar(POST) mapreduce/streaming(POST) hive(POST) jobs(GET)

查看更多 →

烧录成功后，点击串口终端图标打开串口终端界面，设置端口（请根据实际使用的串口端口号进行设置），开启串口开关，开发板按下复位RESET按钮，可以看到串口输出，接收区输出的内容就是Huawei LiteOS启动后运行“Kernel Task Demo”的输出，如下图所示：Huawei LiteOS默认打开了Shell组件，可以在串口终端的“发

查看更多 →

Huawei LiteOS Studio通过“烧录”功能启动QEMU虚拟机运行Huawei LiteOS。如何配置“烧录器”并运行Huawei LiteOS，可以参考启动realview-pbx-a9仿真工程。烧录成功后，自动启动Huawei LiteOS，可以在“终端”界面中看

查看更多 →

为Spark作业指定对应参数。 Jar包资源 是 选择Jar包。在选择Jar包之前，您需要先将Jar包上传至OBS桶中，并在“资源管理”页面中新建资源将Jar包添加到资源管理列表中，具体操作请参考新建资源。 Jar包参数 否 Jar包的参数。 运行程序参数 否 为本次执行的作业配

查看更多 →

按下开发板的复位RESET按钮，可以看到串口输出了Huawei LiteOS启动后运行“Kernel Task Demo”的打印信息，其中“Huawei LiteOS #”是Shell交互界面的提示符，如下图所示：Huawei LiteOS默认打开了Shell组件，可以在串口工具中输入支持的Shell命令，再勾选“加回车换行”，点击“发送

查看更多 →

的作业。如果处于“运行中”状态的集群创建作业失败，请查看集群管理页面中相关组件健康情况。操作方法，请参见查看和定制集群监控指标。 MapReduce：提供快速并行处理大量数据的能力，是一种分布式数据处理模式和执行环境。MRS当前支持提交MapReduce Jar程序。 Spark

查看更多 →

MapReduce Action 功能描述 MapReduce任务节点，负责执行一个map-reduce任务。 参数解释 MapReduce Action节点中包含的各参数及其含义，请参见表1。 表1 参数含义 参数 含义 name map-reduce action的名称 resourceManager

查看更多 →

使用MapReduce 配置使用分布式缓存执行MapReduce任务 配置MapReduce shuffle address 配置MapReduce集群管理员列表 通过Windows系统提交MapReduce任务 配置MapReduce任务日志归档和清理机制 MapReduce性能调优

查看更多 →

jar”结尾，Flink和SparkSubmit需要以“.jar”或“.py”结尾。sql、jar、py不区分大小写。 运行程序参数 可选参数，为本次执行的作业配置相关优化参数（例如线程、内存、CPU核数等），用于优化资源使用效率，提升作业的执行性能。 常用运行程序参数如表2。 执行程序参数 可选参数，程序执行的关键

查看更多 →

常见jar包冲突处理方式 问题现象 Spark能对接很多的第三方工具，因此在使用过程中经常会依赖一堆的三方包。而有一些包MRS已经自带，这样就有可能造成代码使用的jar包版本和集群自带的jar包版本不一致，在使用过程中就有可能出现jar包冲突的情况。 常见的jar包冲突报错有： 1、报错类找不到：java

查看更多 →

常见jar包冲突处理方式 问题现象 Spark能对接很多的第三方工具，因此在使用过程中经常会依赖一堆的三方包。而有一些包MRS已经自带，这样就有可能造成代码使用的jar包版本和集群自带的jar包版本不一致，在使用过程中就有可能出现jar包冲突的情况。 常见的jar包冲突报错有： 1、报错类找不到：java

查看更多 →

打包项目 通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中编包并运行Spark程序。 将打包生成的jar包上传到Spark客户端所在 服务器 的任意目录（例如“$SPARK_HOME” ）下。 若运行“Spark on HBase”样例程序，需要在S

查看更多 →

"669476bd-89d2-45aa-8f1a-872d16de377e", "jar_path" : "s3a://jp-test1/program/hadoop-mapreduce-examples-2.4.1.jar", "input" : "s3a://jp-test1/input/"

查看更多 →

导入并配置MapReduce样例工程 操作场景 MapReduce针对多个场景提供样例工程，帮助客户快速学习MapReduce工程。 以下操作步骤以导入MapReduce样例代码为例。操作流程如图1所示。 图1 导入样例工程流程 操作步骤 参考获取MRS应用开发样例工程，获取样例

查看更多 →

据迁移操作。这个MapReduce任务配置直接从Spark任务配置里面提取，但是Spark任务的net.topology.node.switch.mapping.impl配置项不是hadoop的默认值，需要使用Spark的jar包，因此MapReduce会报类找不到。 处理步骤 方案一：

查看更多 →

。 操作步骤 准备操作 使用root用户登录RTDServer所在节点，获取关系型数据库对应的驱动Jar包，本场景需要获取“opengaussjdbc-V500R002C00.jar”。 cd ${BIGDATA_HOME}/ FusionInsight _FARMER_RTD_*/

查看更多 →

无法下载依赖的war、jar文件 问题现象 本地工具通过私有依赖库无法下载组件，报错为找不到对应的pom文件，日志信息提示如下： 原因分析 依赖中缺失对应的pom文件。 无论是通过gradle还是maven下载依赖，其顺序都为先下载pom文件，然后才是jar或者war，若云端不存在pom文件，则会下载失败。

查看更多 →

Spark Jar作业开发指南 使用Spark Jar作业读取和查询OBS数据 使用Spark作业访问 DLI 元数据 使用Spark-submit提交Spark Jar作业 使用Livy提交Spark Jar作业 使用Spark作业跨源访问数据源

查看更多 →

常见jar包冲突处理方式 问题现象 Spark能对接很多的第三方工具，因此在使用过程中经常会依赖一堆的三方包。而有一些包MRS已经自带，这样就有可能造成代码使用的jar包版本和集群自带的jar包版本不一致，在使用过程中就有可能出现jar包冲突的情况。 常见的jar包冲突报错有： 1、报错类找不到：java

查看更多 →

Flink Jar 包冲突，导致提交失败 问题描述 用户Flink程序的依赖包与DLI Flink平台的内置依赖包冲突，导致提交失败。 解决方案 查看是否已包含DLI Flink运行平台中已经存在的包，如果存在，则需要将自己的Jar包删除。 DLI内置依赖包请参考《 数据湖探索 用户指南》。

查看更多 →