Standalone模式spark配置 数据工厂应用内配置 图1 计算引擎配置 参数配置中spark.executor.extraClassPath指定spark上需要额外加载的jar包的路径，jar包需要放在spark所在 服务器 上。如果spark是集群环境，则每个节点都需要放入jar包，且路径相同。

查看更多 →

export SPARK_HOME=/opt/spark-2.3.3 export PATH=$SPARK_HOME/bin:$SPARK_HOME/sbin:$PATH 配置spark。 重命名/opt/spark-2.3.3/conf/spark-env.sh.template为spark-env

查看更多 →

开发Spark应用 Spark Core样例程序 Spark SQL样例程序 通过JDBC访问Spark SQL样例程序 Spark读取HBase表样例程序 Spark从HBase读取数据再写入HBase样例程序 Spark从Hive读取数据再写入HBase样例程序 Spark S

查看更多 →

Spark SQL程序 场景说明 Java样例代码 Scala样例代码 父主题： 开发Spark应用

查看更多 →

Spark作业相类 Spark作业开发类 Spark作业运维类

查看更多 →

对接OBS场景中，spark-beeline登录后指定loaction到OBS建表失败 Spark shuffle异常处理 Spark多服务场景下，普通用户无法登录Spark客户端 安装使用集群外客户端时，连接集群端口失败 Datasource Avro格式查询异常 通过Spark-sql

查看更多 →

管理Spark作业 查看Spark作业的基本信息 在总览页面单击“Spark作业”简介，或在左侧导航栏单击“作业管理”>“Spark作业”，可进入Spark作业管理页面。Spark作业管理页面显示所有的Spark作业，作业数量较多时，系统分页显示，您可以查看任何状态下的作业。 表1

查看更多 →

Spark Streaming Streaming任务打印两次相同DAG日志 Spark Streaming任务一直阻塞 运行Spark Streaming任务参数调优的注意事项 为什么提交Spark Streaming应用超过token有效期，应用失败 为什么Spark Str

查看更多 →

API连接时支持为Spark SQL作业独立配置需要的资源（例如线程、内存、CPU核数并指定 MRS 资源队列等）。代理连接时不支持配置。 您需要先在数据安全组件中配置对应的队列（参考配置队列权限，）后，才能在此处选择到已配置的队列。当有多处同时配置了资源队列时，此处配置的资源队列为最高优先级。

查看更多 →

Spark常用配置参数 概述 本节介绍Spark使用过程中的常用配置项。以特性为基础划分子章节，以便用户快速搜索到相应的配置项。如果用户使用MRS集群，本节介绍的参数大部分已经适配好，用户无需再进行配置。少数需要用户根据实际场景配置的参数，请参见快速配置Spark参数。 配置Stage失败重试次数

查看更多 →

对接的 DLI 服务的Region。 根据Spark应用程序的需要，修改“spark-defaults.conf”中的配置项，配置项兼容开源Spark配置项，参考开源Spark的配置项说明。 使用Spark-submit提交Spark作业 进入工具文件bin目录，执行spark-submit命令，并携带相关参数。

查看更多 →

可以设置批量部署、增量部署等部署策略吗？ 目前页面上还没有提供部署策略的选择，但是可以通过配置来实现一些部署策略，例如： 批量部署：在为应用配置主机时，可以选择多个主机作为目标主机。 增量部署：模板部署中支持新增部署步骤，或者禁用单个或者多个部署步骤。 父主题： 应用部署

查看更多 →

安装部署 安装包解压 将获取到的pie-engine-studio安装包复制到 Linux 操作系统计算机的某个目录下，例如 /home/PieEngine/下，执行以下命令进入该目录： cd /home/PieEngine/ 执行如下命令进行解压 tar -zxvf 文件名.tar

查看更多 →

Scripts 配置及脚本 1） Global.yaml：配置服务器节点的必要参数 2） Check-env.sh：部署前环境检查工作 3） Install-kubernetesinstall.sh：安装基础环境脚本 4） Auto-service.sh：完成产品一键部署 MENIFEST

查看更多 →

部署安装 配置文件许可 远程登录 弹性云服务器 ，在根目录/opt下新建文件夹： mikdir /opt/SuperMap/License 上传许可文件至此目录下。 安装依赖库 将获取到的 SuperMap iServer 安装包复制到 Linux 操作系统计算机的某个目录下，例如 /home/map/SuperMap

查看更多 →

tar.gz 配置环境 进入解压后的目录 cd supermap-imanager-for-kubernetes 打开配置环境变量，所有变量均设有默认值，可保持不变或根据实际环境更改，配置完成后保存并退出 sudo vi .env 图1 配置环境 执行部署命令，安装iManager

查看更多 →

如何在华为云上部署SAP HANA？ 华为云提供SAP HANA弹性 云服务器 单节点部署、 裸金属服务器 单节点部署和裸金属服务器集群部署三种方式。请首先根据您的部署方案使用云服务控制台申请所需的资源然后再安装配置SAP HANA。 弹性云服务器单节点部署请参见https://support

查看更多 →

部署安装 配置文件许可 远程登录弹性云服务器，在根目录/opt下新建文件夹： mikdir /opt/SuperMap/License 上传许可文件至此目录下 启动及停止iServer服务 将获取到的 SuperMap iPortal 安装包复制到 Linux 操作系统计算机的某个目录下（建议安装路径为英文目录，例如

查看更多 →

安装部署 安装包解压 将获取到的pie-engine-factory安装包复制到 Linux 操作系统计算机的某个目录下，例如 /home/PieEngine/下，执行以下命令进入该目录： cd /home/PieEngine/ 执行如下命令进行解压。 tar -zxvf 文件名

查看更多 →

安装部署 Backint Agent安装 配置Backint Agent （可选）升级Backint Agent 父主题： SAP Backint安装指南

查看更多 →

Livy部署 前置条件说明 JDK先配置好(1.8) 安装大数据组件客户端(HDFS\YARN\HIVE\SPARK) 安装机器 前提 CDH中需要有两个Hadoop集群，每个集群下部署一个livy (CDH机器允许部署的情况) CDH机器不允许部署的情况，参考https://deepexi

查看更多 →