mv ./spark/spark-3.1.3-bin-hadoop3.1.tgz /root 执行命令安装Spark。 tar -zxvf spark-3.1.3-bin-hadoop3.1.tgz mv spark-3.1.3-bin-hadoop3.1 spark-obs cat

查看更多 →

Spark输出 概述 “Spark输出”算子，用于配置已生成的字段输出到SparkSQL表的列。 输入与输出 输入：需要输出的字段 输出：SparkSQL表 参数说明 表1 算子参数说明 参数 含义 类型 是否必填 默认值 Spark文件存储格式 配置SparkSQL表文件的存储

查看更多 →

使用Spark/Spark2x Spark使用说明 Spark用户权限管理 Spark客户端使用实践 访问Spark WebUI界面 使用代理用户提交Spark作业 配置Spark读取HBase表数据 配置Spark任务不获取HBase Token信息 Spark Core企业级能力增强

查看更多 →

将打包生成的jar包上传到Spark客户端所在 服务器 的任意目录（例如“ /opt/” ）下。 数据规划 创建HBase表，构造数据，列需要包含key，modify_time，valid。其中每条数据key值全表唯一，modify_time代表修改时间，valid代表是否为有效数据（该样例中'1'为有效，'0'为无效数据）。

查看更多 →

e>根据场景而定，但要求该值至少比其中一个表大。 spark.sql.autoBroadcastJoinThreshold = <size> 利用Hive CLI命令，设置阈值。在运行Join操作时，提前运行下面语句 SET spark.sql.autoBroadcastJoinThreshold=<size>

查看更多 →

使用Spark作业跨源访问数据源 概述 对接 CSS 对接DWS 对接HBase 对接OpenTSDB 对接RDS 对接Redis 对接Mongo 父主题： Spark Jar作业开发指南

查看更多 →

运行该作业即可。 后续指引 如果您想通过Spark Jar作业访问其他数据源，请参考《使用Spark作业跨源访问数据源》。 如果您想通过Spark Jar作业在 DLI 创建数据库和表，请参考《使用Spark作业访问DLI元数据》。 完整样例代码参考 认证用的access.key和secret

查看更多 →

大版本升级 使用须知 目前DDS不支持直接通过控制台进行版本升级。如您需要可以通过数据复制服务进行迁移。 例如：使用数据复制服务将DDS 3.4版本迁移到DDS 4.0版本，可以实现应用不停服的情况下，平滑完成数据库的迁移工作。 限制条件 通过数据复制服务进行迁移，需要提前准备好待迁移到的高版本数据库实例。

查看更多 →

步骤3：保存或保存并发布大屏 完成大屏字段和样式配置并单击“更新”后，单击大屏编辑页面右上侧的“保存并发布”或“保存”。 保存：保存大屏之后，在大屏页面大屏不具有查看大屏功能。 在保存的页面输入大屏的名称。 图9 保存并发布 收藏：收藏大屏后，可在产品首页“我的收藏”快速找到大屏。 保存并发

查看更多 →

配置SparkSQL的分块个数 配置场景 SparkSQL在进行shuffle操作时默认的分块数为200。在数据量特别大的场景下，使用默认的分块数就会造成单个数据块过大。如果一个任务产生的单个shuffle数据块大于2G，该数据块在被fetch的时候还会报类似错误： Adjusted

查看更多 →

配置SparkSQL的分块个数 配置场景 SparkSQL在进行shuffle操作时默认的分块数为200。在数据量特别大的场景下，使用默认的分块数就会造成单个数据块过大。如果一个任务产生的单个shuffle数据块大于2G，该数据块在被fetch的时候还会报类似错误： Adjusted

查看更多 →

大对象类型 概述 BLOB是一个二进制大对象，可以容纳可变数量的数据。这四个BLOB 类型是TINYBLOB，BLOB， MEDIUMBLOB和LONGBLOB。这些不同之处仅在于各自可以容纳的值的最大长度不同。DSC工具支持以下列出类型转换。 BLOB类型可以存储图片，列存储不支持BLOB。

查看更多 →

大屏Demo 描述 大屏Demo，开箱即用的大屏样例，需要配合应用资产中“大屏数据处理应用模板”一起使用。 开放能力 大屏Demo为模板资产，订购后下载到本地，通过导入的方式上传到“业务大屏”下使用。 大屏Demo提供了指挥看板页面，如图1所示。 图1 指挥看板页面 如何使用资产

查看更多 →

可视大屏 单击主菜单的“可视化”，默认进入“运营大屏”页面。 选择大屏单击进入，根据大屏所展示的状态与数据进行决策。 大屏详细内容请参见可视化运营大屏。 父主题： 大屏可视

查看更多 →

预览大屏 本章节介绍如何预览大屏。 前提条件 已开通DataArts Insight服务。 已创建管理数据源的项目，参考新建项目完成项目创建。 您已获取数据，参考新建数据源。 已创建所需的数据集，参考可视化新建数据集完成数据集创建。 您已制作并保存该数据大屏。 预览大屏操作步骤 登录智能数据洞察控制台。

查看更多 →

在控制台的右侧“我的项目列”选择或搜索对应的项目，单击进入项目。 在项目页面，单击数据分析下“大屏”进入大屏管理页面。 单击大屏操作列“更多>复制”，弹出复制窗口，重命名后单击“确定”，复制成功。此时大屏转态为未发布，如果要发布请参见发布大屏章节。 父主题： 新建大屏

查看更多 →

在项目页面，单击数据分析下“大屏”进入大屏管理页面。 单击大屏操作列“更多>删除”，弹出删除窗口，单击“确定”，删除大屏。 父主题： 新建大屏

查看更多 →

大屏概述 概述 本文介绍DataArts Insight的大屏功能，数据大屏的常见应用场景包括活动数据监控、项目会议演示、对外接待等场景。 适用场景 数据大屏是DataArts Insight分析场景的重要组成部分，常见应用场景包括活动数据监控、项目会议演示、对外接待等，致力于满足企业高可视化要求的数据展示场景。

查看更多 →

具体操作请参见如何控制接口访问权限。 大屏数据处理应用模板服务集成示例： 如何使用资产 以在大屏Demo页面上进行配置为例。 订购并安装部署大屏数据处理应用模板资产到对应的开发环境。 相关操作请参见如何订购&部署资产。 在开发环境首页，如图1所示，单击“项目”页签，单击“业务大屏”。 图1 进入业务大屏 如图

查看更多 →

batchJob.asyncSubmit(); SparkJobStatus sparkJobStatus=batchJob.getStatus(); System.out.println(sparkJobStatus); } 查询批处理作业日志 DL

查看更多 →

开发Spark应用 Spark Core样例程序 Spark SQL样例程序 通过JDBC访问Spark SQL样例程序 Spark读取HBase表样例程序 Spark从HBase读取数据再写入HBase样例程序 Spark从Hive读取数据再写入HBase样例程序 Spark S

查看更多 →