Spark Spark基本原理 Spark HA方案介绍 Spark与其他组件的关系 Spark开源增强特性 父主题： 组件介绍

查看更多 →

配置 服务器 通过分配的公网IP-121.36.25.2远程服务器配置。 Hosts配置 图1 Hosts配置 IIS组件安装 图2 IIS组件安装 父主题： 安装测试环境

查看更多 →

LOG 服务器。 操作步骤 使用安全管理员secadmin账号登录数据库运维安全管理系统。 在左侧导航栏，选择“系统运维 > 系统设置”。 单击“外发配置”。 配置SYSLOG服务器信息。 图1 配置SYSLOG服务器 表1 配置SYSLOG服务器 参数 说明 状态 选择开启或关闭日志推送至SYSLOG服务器。

查看更多 →

Spark SQL常用配置项说明 本章节为您介绍 DLI 批作业SQL语法的常用配置项。 表1 常用配置项 名称 默认值 描述 spark.sql.files.maxRecordsPerFile 0 要写入单个文件的最大记录数。如果该值为零或为负，则没有限制。 spark.sql.shuffle

查看更多 →

使用，在这边添加一个配置项，用户可以根据Driver的内存大小设置合适的值。 配置描述 参数入口： 在执行应用之前，在Spark服务配置中修改。在Manager系统中，选择“集群 > 待操作集群的名称 > 服务 > Spark2x > 配置”，单击“全部配置”。在搜索框中输入参数名称。

查看更多 →

ntConfig_ConfigFiles.tar”，继续解压该文件。 进入客户端配置文件解压路径“*\Spark\config”，获取Spark配置文件，并所有的配置文件导入到Spark样例工程的配置文件目录中（通常为“resources”文件夹）。 复制解压目录下的“hosts

查看更多 →

为了更灵活的使用，在这边添加一个配置项，用户可以根据Driver的内存大小设置合适的值。 配置描述 参数入口： 在执行应用之前，在Spark服务配置中修改。在Manager系统中，选择“集群 > 服务 > Spark2x > 配置”，单击“全部配置”。在搜索框中输入参数名称。 表1

查看更多 →

discarded 例如，SparkSQL运行TPCDS 500G的测试时，使用默认配置出现错误。所以当数据量较大时需要适当的调整该参数。 配置参数 参数入口： 在Manager系统中，选择“集群 > 服务 > Spark2x > 配置”，单击“全部配置”。在搜索框中输入参数名称。

查看更多 →

com/dev-container/spark:3.1.3-obs 配置Spark History Server 修改~/spark-obs/conf/spark-defaults.conf文件，开启Spark事件日志记录，并配置OBS桶名称及目录。 cat >> ~/spark-obs/conf/spark-defaults

查看更多 →

心下拉菜单可以选择需要部署的区域，单击“一键部署（入门级）”（此处以亚太-新加坡，入门级为例），跳转至解决方案创建资源栈界面。 图1 解决方案实践 在选择模板界面中，单击“下一步”。 图2 选择模板 在配置参数界面中，自定义填写资源栈名称，根据表1填写配置参数信息，单击“下一步”。

查看更多 →

配置Windows通过EIP访问集群Spark 操作场景 该章节通过指导用户配置集群绑定EIP，并配置Spark文件的方法，方便用户可以在本地对样例文件进行编译。 本章节以运行SparkScalaExample样例为例进行说明。 操作步骤 为集群的每个节点申请弹性公网IP，并将本

查看更多 →

动态分配资源，使整个Spark系统更加健康。 操作步骤 需要先配置External shuffle service。 登录 FusionInsight Manager，选择“集群 > 服务 > Spark2x > 配置 > 全部配置”。在搜索框中输入“spark.dynamicAllocation

查看更多 →

配置备份服务器 将一台安装了eBackup备份软件的服务器初始化为备份服务器，并配置相关参数。 前提条件 安装前准备请提前规划备份服务器的相关网络平面参数。 已准备跨平台远程访问工具如“PuTTY”。 已获取eBackup服务器“root”账号的登录密码。 操作步骤 以“root

查看更多 →

以下配置以对接华为云短信平台为例，提供了具体对接配置步骤；更多类型的短信服务器对接，请参见典型配置案例。 租户管理员界面配置短信服务器对接参数。 登录华为乾坤控制台。 单击页面左上角按钮，单击“我的服务 > 云管理网络”，在快捷菜单栏选择“ > 高级配置”。 在高级配置界面选择“系统

查看更多 →

SAP HANA服务器配置 在SAP HANA的安装过程中，安装程序使用主机名称来进行通信。因此需要配置主机名称和IP地址的映射关系。 操作步骤 登录SAP HANA主节点云服务器“hana001”，编辑/etc/hosts文件，将所有SAP HANA节点的主机名称与IP地址写入其中。

查看更多 →

以下配置以对接华为云短信平台为例，提供了具体对接配置步骤；更多类型的短信服务器对接，请参见典型配置案例。 租户管理员界面配置短信服务器对接参数。 登录华为乾坤控制台。 单击页面左上角按钮，单击“我的服务 > 云管理网络”，在快捷菜单栏选择“ > 高级配置”。 在高级配置界面选择“系统

查看更多 →

以下配置以对接华为云短信平台为例，提供了具体对接配置步骤；更多类型的短信服务器对接，请参见典型配置案例。 租户管理员界面配置短信服务器对接参数。 登录华为乾坤控制台。 单击页面左上角按钮，单击“我的服务 > 云管理网络”，在快捷菜单栏选择“ > 高级配置”。 在高级配置界面选择“系统

查看更多 →

配置Windows通过EIP访问集群Spark 操作场景 该章节通过指导用户配置集群绑定EIP，并配置Spark文件的方法，方便用户可以在本地对样例文件进行编译。 本章节以运行SparkScalaExample样例为例进行说明。 操作步骤 为集群的每个节点申请弹性公网IP，并将本

查看更多 →

配置Windows通过EIP访问集群Spark 操作场景 该章节通过指导用户配置集群绑定EIP，并配置Spark文件的方法，方便用户可以在本地对样例文件进行编译。 本章节以运行SparkScalaExample样例为例进行说明。 操作步骤 为集群的每个节点申请弹性公网IP，并将本

查看更多 →

配置Spark Python3样例工程 操作场景 为了运行 MRS 产品Spark2x组件的Python3接口样例代码，需要完成下面的操作。 操作步骤 客户端机器必须安装有Python3，其版本不低于3.6。 在客户端机器的命令行终端输入python3可查看Python版本号。如下显示Python版本为3

查看更多 →

配置Spark Python3样例工程 操作场景 为了运行MRS产品Spark2x组件的Python3接口样例代码，需要完成下面的操作。 操作步骤 客户端机器必须安装有Python3，其版本不低于3.6。 在客户端机器的命令行终端输入python3可查看Python版本号。如下显示Python版本为3

查看更多 →