使用Spark/Spark2x Spark使用说明 Spark用户权限管理 Spark客户端使用实践 访问Spark WebUI界面 使用代理用户提交Spark作业 配置Spark读取HBase表数据 配置Spark任务不获取HBase Token信息 Spark Core企业级能力增强

查看更多 →

e>根据场景而定，但要求该值至少比其中一个表大。 spark.sql.autoBroadcastJoinThreshold = <size> 利用Hive CLI命令，设置阈值。在运行Join操作时，提前运行下面语句 SET spark.sql.autoBroadcastJoinThreshold=<size>

查看更多 →

大对象类型 概述 BLOB是一个二进制大对象，可以容纳可变数量的数据。这四个BLOB 类型是TINYBLOB，BLOB， MEDIUMBLOB和LONGBLOB。这些不同之处仅在于各自可以容纳的值的最大长度不同。DSC工具支持以下列出类型转换。 BLOB类型可以存储图片，列存储不支持BLOB。

查看更多 →

大屏Demo 描述 大屏Demo，开箱即用的大屏样例，需要配合应用资产中“大屏数据处理应用模板”一起使用。 开放能力 大屏Demo为模板资产，订购后下载到本地，通过导入的方式上传到“业务大屏”下使用。 大屏Demo提供了指挥看板页面，如图1所示。 图1 指挥看板页面 如何使用资产

查看更多 →

大屏组件 常用图表 制作地图 制作媒体 制作文本 添加素材 制作交互 其他组件使用 父主题： 新建数据大屏

查看更多 →

可视大屏 单击主菜单的“可视化”，默认进入“运营大屏”页面。 选择大屏单击进入，根据大屏所展示的状态与数据进行决策。 大屏详细内容请参见可视化运营大屏。 父主题： 大屏可视

查看更多 →

单击“登录”，进入沙箱环境，如图8所示。 图8 沙箱环境 部署大屏到沙箱环境 示例中以导入方式为例，部署大屏应用到沙箱环境，以便于测试该大屏。 登录沙箱环境，如图9所示，单击“DMAX”，进入业务大屏。 图9 进入业务大屏 如图10所示，单击“导入项目包”。 图10 导入项目包 选择导出的本地项目包。

查看更多 →

batchJob.asyncSubmit(); SparkJobStatus sparkJobStatus=batchJob.getStatus(); System.out.println(sparkJobStatus); } 查询批处理作业日志 DL

查看更多 →

Spark on HBase程序 场景说明 Java样例代码 Scala样例代码 父主题： 开发程序

查看更多 →

使用Spark on CCE 使用Spark的Kubernetes调度程序spark-submit，可以将Spark应用程序提交到Kubernetes集群中运行，详情请参见在Kubernetes上运行Spark。使用spark-submit提交Spark应用程序的工作原理如下：

查看更多 →

Spark对接OpenTSDB 创建表关联OpenTSDB 插入数据至OpenTSDB表 查询OpenTSDB表 默认配置修改 父主题： 使用Spark

查看更多 →

Manager界面中配置。 表1 Spark2x日志列表 日志类型 日志文件名 描述 SparkResource2x日志 spark.log Spark2x服务初始化日志。 prestart.log prestart脚本日志。 cleanup.log 安装卸载实例时的清理日志。 spark-availability-check

查看更多 →

Spark Streaming Streaming任务打印两次相同DAG日志 Spark Streaming任务一直阻塞 运行Spark Streaming任务参数调优的注意事项 为什么提交Spark Streaming应用超过token有效期，应用失败 为什么Spark Str

查看更多 →

开发Spark应用 Spark Core样例程序 Spark SQL样例程序 通过JDBC访问Spark SQL样例程序 Spark读取HBase表样例程序 Spark从HBase读取数据再写入HBase样例程序 Spark从Hive读取数据再写入HBase样例程序 Spark S

查看更多 →

Spark Core程序 场景说明 Java样例代码 Scala样例代码 Python样例代码 父主题： 开发程序

查看更多 →

使用Spark作业跨源访问数据源 概述 对接CSS 对接DWS 对接HBase 对接OpenTSDB 对接RDS 对接Redis 对接Mongo 父主题： Spark Jar作业开发指南

查看更多 →

运行该作业即可。 后续指引 如果您想通过Spark Jar作业访问其他数据源，请参考《使用Spark作业跨源访问数据源》。 如果您想通过Spark Jar作业在DLI创建数据库和表，请参考《使用Spark作业访问DLI元数据》。 完整样例代码参考 认证用的access.key和secret

查看更多 →

将打包生成的jar包上传到Spark客户端所在服务器的任意目录（例如“ /opt/” ）下。 数据规划 创建HBase表，构造数据，列需要包含key，modify_time，valid。其中每条数据key值全表唯一，modify_time代表修改时间，valid代表是否为有效数据（该样例中'1'为有效，'0'为无效数据）。

查看更多 →

预览大屏 本章节介绍如何预览大屏。 前提条件 已开通DataArts Insight服务。 已创建管理数据源的项目，参考新建项目完成项目创建。 您已获取数据，参考新建数据源。 已创建所需的数据集，参考可视化新建数据集完成数据集创建。 您已制作并保存该数据大屏。 预览大屏操作步骤 登录智能数据洞察控制台。

查看更多 →

在控制台的右侧“我的项目列”选择或搜索对应的项目，单击进入项目。 在项目页面，单击数据分析下“大屏”进入大屏管理页面。 单击大屏操作列“更多>复制”，弹出复制窗口，重命名后单击“确定”，复制成功。此时大屏转态为未发布，如果要发布请参见发布大屏章节。 父主题： 新建数据大屏

查看更多 →

在项目页面，单击数据分析下“大屏”进入大屏管理页面。 单击大屏操作列“更多>删除”，弹出删除窗口，单击“确定”，删除大屏。 父主题： 新建数据大屏

查看更多 →