使用Flink Jar写入数据到OBS开发指南 概述 DLI 提供了使用自定义Jar运行Flink作业并将数据写入到OBS的能力。本章节JAVA样例代码演示将kafka数据处理后写入到OBS，具体参数配置请根据实际环境修改。 环境准备 已安装和配置IntelliJ IDEA等开发工具以及安装JDK和Maven。

查看更多 →

Spark如何将数据写入到DLI表中 使用Spark将数据写入到DLI表中，主要设置如下参数： fs.obs.access.key fs.obs.secret.key fs.obs.impl fs.obs.endpoint 示例如下： import logging from operator

查看更多 →

IP以避免ClickHouseBalancer实例单点故障。 写入ClickHouse时会过滤Flink计算过程中产生的DELETE消息。 攒批写参数：Flink会将数据先放入内存，到达触发条件时再flush到数据库表中。相关配置如下。 sink.buffer-flush.max

查看更多 →

Spark从HBase读取数据再写入HBase样例程序 Spark从HBase读取数据再写入HBase样例程序开发思路 Spark从HBase读取数据再写入HBase样例程序（Java） Spark从HBase读取数据再写入HBase样例程序（Scala） Spark从HBase读取数据再写入HBase样例程序（Python）

查看更多 →

Spark从HBase读取数据再写入HBase样例程序 Spark从HBase读取数据再写入HBase样例程序开发思路 Spark从HBase读取数据再写入HBase样例程序（Java） Spark从HBase读取数据再写入HBase样例程序（Scala） Spark从HBase读取数据再写入HBase样例程序（Python）

查看更多 →

Spark从Hive读取数据再写入HBase样例程序 Spark从Hive读取数据再写入HBase样例程序开发思路 Spark从Hive读取数据再写入HBase样例程序（Java） Spark从Hive读取数据再写入HBase样例程序（Scala） Spark从Hive读取数据再写入HBase样例程序（Python）

查看更多 →

Spark从Hive读取数据再写入HBase样例程序 Spark从Hive读取数据再写入HBase样例程序开发思路 Spark从Hive读取数据再写入HBase样例程序（Java） Spark从Hive读取数据再写入HBase样例程序（Scala） Spark从Hive读取数据再写入HBase样例程序（Python）

查看更多 →

.... 原因分析 经分析因为在写数据到Kafka时，Kafka客户端会先比较配置项“max.request.size ”值和本次写入数据大小，若写入数据大小超过此配置项“max.request.size ”的缺省值，则抛出上述异常。 解决办法 在初始化Kafka生产者实例时，设置此配置项“max

查看更多 →

使用30个线程，每个线程创建3个client连接，即总共建立的90个连接并发写入和读取60,000,000次的数据，写入和读取key范围在[1, 60,000,000]内，同时写入和读取操作比例为1:1。基于key的给定范围，本次写入和读取总数据大小小于数据库集群的内存容量。 ./memtier_benchmark

查看更多 →

Windows主机上无法创建文件和向文件写入数据 可能原因 当将同一个文件系统分别挂载到已创建的Linux 云服务器 和Windows云 服务器 后，在Windows云服务器上无法对在Linux云服务器上创建的文件写入数据。 解决方法 需要修改Windows注册表将系统访问NFS的UID和GID均修改为0，操作步骤如下：

查看更多 →

ALM-14030 HDFS已开启允许写入单副本数据 告警解释 当HDFS开启允许写入单副本数据开关时（即“dfs.single.replication.enable”参数值为“true”），产生该告警。 当HDFS关闭允许写入单副本数据开关时，告警恢复。 告警属性 告警ID 告警级别

查看更多 →

Spark从Hive读取数据再写入HBase样例程序（Scala） 功能介绍 在Spark应用中，通过使用Spark调用Hive接口来操作hive表，然后把Hive表的数据经过分析后写到HBase表。 代码样例 下面代码片段仅为演示，具体代码参见：com.huawei.bigdata

查看更多 →

Spark从Hive读取数据再写入HBase样例程序（Python） 功能介绍 在Spark应用中，通过使用Spark调用Hive接口来操作hive表，然后把Hive表的数据经过分析后写到HBase表。 代码样例 由于pyspark不提供Hbase相关api，本样例使用Python调用Java的方式实现。

查看更多 →

Spark从HBase读取数据再写入HBase样例程序（Python） 功能介绍 用户可以使用Spark调用HBase接口来操作HBase table1表，然后把table1表的数据经过分析后写到HBase table2表中。 代码样例 由于pyspark不提供Hbase相关ap

查看更多 →

Spark从HBase读取数据再写入HBase样例程序（Python） 功能介绍 用户可以使用Spark调用HBase接口来操作HBase table1表，然后把table1表的数据经过分析后写到HBase table2表中。 代码样例 由于pyspark不提供Hbase相关ap

查看更多 →

Spark从Hive读取数据再写入HBase样例程序（Java） 功能介绍 在Spark应用中，通过使用Spark调用Hive接口来操作hive表，然后把Hive表的数据经过分析后写到HBase表。 代码样例 下面代码片段仅为演示，具体代码参见：com.huawei.bigdata

查看更多 →

Spark从Hive读取数据再写入HBase样例程序（Scala） 功能介绍 在Spark应用中，通过使用Spark调用Hive接口来操作hive表，然后把Hive表的数据经过分析后写到HBase表。 代码样例 下面代码片段仅为演示，具体代码参见：com.huawei.bigdata

查看更多 →

Spark从HBase读取数据再写入HBase样例程序（Python） 功能介绍 用户可以使用Spark调用HBase接口来操作HBase table1表，然后把table1表的数据经过分析后写到HBase table2表中。 代码样例 由于pyspark不提供Hbase相关ap

查看更多 →

Boolean 是否启用自动压缩。数据将写入临时文件。检查点完成后，检查点生成的临时文件将被压缩。压缩前临时文件不可见。 compaction.file-size none MemorySize 压缩目标文件大小，默认值为滚动文件大小。 分区文件的提交。 文件写入分区后，通常需要通知下游应用

查看更多 →

Kafka 支持的源端和目的端数据库版本 表1 支持的数据库版本 源端数据库 目的端数据库 MySQL数据库（5.6、5.7、8.x版本） DMS Kafka集群（2.7、3.x版本） 数据库账号权限要求 在使用Migration进行同步时，源端和目的端所使用的数据库账号需要满足以下权限要

查看更多 →

连接数据库（以SSL方式） 数据库的Go驱动支持SSL连接数据库，当开启SSL模式后，如果Go驱动采用SSL方式连接数据库服务端时，Go驱动默认走TLS 1.3标准协议，支持的tls版本最低为1.2。本小节主要介绍应用程序通过Go驱动如何采用SSL的方式对客户端进行配置（服务端配

查看更多 →