Spark运维管理 快速配置Spark参数 Spark常用配置参数 Spark日志介绍 获取运行中Spark应用的Container日志 调整Spark日志级别 配置WebUI上查看Container日志 配置WebUI上显示的Lost Executor信息的个数 配置JobHistory本地磁盘缓存

查看更多 →

Spark任务提交失败 问题现象 Spark提交任务直接提示无法提交任务。 Spark提示无法获取到yarn的相关jar包。 提示多次提交一个文件。 原因分析 问题1： 最常见的无法提交任务原因是认证失败， 还有可能是参数设置不正确。 问题2： 集群默认会把分析节点的hadoop

查看更多 →

zooKeeperNamespace=sparkthriftserver2x;saslQop=auth-conf;auth=KERBEROS;principal=spark/hadoop.<系统 域名 >@<系统域名>;' 父主题： Spark

查看更多 →

Spark开源增强特性 跨源复杂数据的SQL查询优化 出于管理和信息收集的需要，企业内部会存储海量数据，包括数目众多的各种数据库、 数据仓库 等，此时会面临以下困境：数据源种类繁多，数据集结构化混合，相关数据存放分散等，这就导致了跨源复杂查询因传输效率低，耗时长。 当前开源Spark

查看更多 →

Spark2x Spark2x基本原理 Spark2x多主实例 Spark2x多租户 Spark2x与其他组件的关系 Spark2x开源新特性说明 Spark跨源复杂数据的SQL查询优化 父主题： 组件介绍

查看更多 →

并支持多种外部输入。 Apache Spark部件架构如图1所示。本文档重点介绍Spark、Spark SQL和Spark Streaming应用开发指导。MLlib和GraghX的详细指导请参见Spark官方网站：http://spark.apache.org/docs/2.2

查看更多 →

Spark Streaming程序 场景说明 Java样例代码 Scala样例代码 父主题： 开发Spark应用

查看更多 →

Spark应用调优 Spark Core调优 SQL和DataFrame调优 Spark Streaming调优 Spark CBO调优 父主题： Spark应用开发常见问题

查看更多 →

Spark Core调优 数据序列化 配置内存 设置并行度 使用广播变量 使用External Shuffle Service提升性能 Yarn模式下动态资源调度 配置进程参数 设计DAG 经验总结 父主题： Spark应用调优

查看更多 →

。 操作步骤 Spark CBO的设计思路是，基于表和列的统计信息，对各个操作算子（Operator）产生的中间结果集大小进行估算，最后根据估算的结果来选择最优的执行计划。 设置配置项。 在“spark-defaults.conf”配置文件中增加配置项“spark.sql.cbo

查看更多 →

Spark常用API介绍 Spark Java API接口介绍 Spark Scala API接口介绍 Spark Python API接口介绍 Spark client CLI介绍 Spark JD BCS erver接口介绍 父主题： Spark应用开发常见问题

查看更多 →

设置 DLI 作业桶 查询Spark作业日志 登录DLI管理控制台，单击“作业管理 > Spark作业”。 选择待查询的Spark作业，单击操作列的“更多 > 归档日志”。 系统自动跳转至DLI作业桶日志路径下。 选择需要查看的日期，单击操作列的“下载”下载Spark日志到本地。 图3 下载Spark作业日志

查看更多 →

上线支持服务-基础版 《SparkPack项目动态数据模板》 《SparkPack项目上线计划》 《SparkPack项目问题清单》 《SparkPack项目系统上线确认报告》 上线支持服务-专业版 《SparkPack项目动态数据模板》 《SparkPack项目上线计划》 《SparkPack项目问题清单》

查看更多 →

在智慧职场解决方案中，华为云主要提供云服务，而业务应用由华为云伙伴来提供，解决方案实践资源清单如下： 表1 硬件资源清单 序号 模块名称 描述 1 智能视频云平台 支持管理人员通过手机端、PC端远程巡视会场实时情况以及回放； 支持AI自动统计早会、培训出勤人数； SparkSOHO-SmartCamera-h

查看更多 →

前提条件 用户已经开通了IMC及 集成工作台 ； 用户创建并提供华为云IAM子账号； SparkPack企业ERP的Service Layer地址信息； SparkPack企业ERP的账套以及登录用户信息，详情操作请参考SparkPack企业ERP用户指南； 企业微信管理后台账号 与企业

查看更多 →

以系统实现为准 《SparkPack项目原型设计确认报告》 上线支持服务-基础版 《SparkPack项目动态数据模板》 《SparkPack项目上线计划》 《SparkPack项目问题清单》 《SparkPack项目系统上线确认报告》 上线支持服务-专业版 《SparkPack项目动态数据模板》

查看更多 →

MRS 的Hive for Spark相关模块已修复该问题。 处理步骤 使用MRS集群自带的Hive for Spark包： hive-beeline-1.2.1.spark_2.2.1-mrs-x.x.x.jar hive-cli-1.2.1.spark_2.2.1-mrs-x.x

查看更多 →

SparkRTC Demo怎么体验？ 您可以提交工单联系华为云技术客服，获取各平台对应的Demo进行体验。 父主题： 产品咨询

查看更多 →

DIS Spark Streaming概述 DIS Spark Streaming是 数据接入服务 （DIS）提供的一个sdk，支持将DIS作为数据源创建DStream对接SparkStreaming。 DIS Spark Streaming使用流程如图1所示。 图1 DIS Spark

查看更多 →

创建并提交Spark作业 场景描述 本章节指导用户通过API创建并提交Spark作业。 约束限制 新队列第一次运行作业时，需要一定的时间，通常为6~10分钟。 涉及接口 创建弹性资源池：创建弹性资源池。 创建队列：在弹性资源池中添加队列。 上传分组资源：上传Spark作业所需的资源包。

查看更多 →

Spark开源命令支持说明 本章节介绍了目前DLI对开源的Spark SQL语法的支持情况。详细的语法、参数说明，示例等信息请参考Spark官方文档。 表1 DLI Spark开源命令支持说明 功能描述 语法示例 DLI Spark 2.4.5 DLI Spark 3.3.1 创建数据库

查看更多 →