目标数据库多的列要求非空且没有默认值，源数据库insert数据，同步到目标数据库后多的列为null，不符合目标数据库要求。 目标数据库多的列设置固定默认值，且有唯一约束。源数据库insert多条数据后，同步到目标数据库后多的列为固定默认值，不符合目标数据库要求。 在MySQL中，同一个database（sche

查看更多 →

将MySQL同步到 CSS /ES 支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 本地自建MySQL数据库 5.5、5.6、5.7、8.0版本 E CS 自建MySQL数据库 5.5、5.6、5.7、8.0版本 ElasticSearch 5.5、6.2、6.5、7.1、7

查看更多 →

源库varchar类型的长度大于等于667时，该类型到Oracle中将会被转成clob类型。 源库不支持列类型为binary且长度为0的字段（即binary(0)），这是由于 GaussDB (for MySQL)的binary类型经过DRS同步到Oracle时会映射为raw类型，而在Ora

查看更多 →

导致的任务失败。 目标端多的列要求非空且没有默认值，源端insert数据，同步到目标端后多的列为null，不符合目标端要求。 目标端多的列设置固定默认值，且有唯一约束。源端insert多条数据后，同步到目标端后多的列为固定默认值，不符合目标端要求。 目标库已启用的触发器不可以与同步表关联。

查看更多 →

创建HDFS文件并写入内容 功能简介 写文件过程为： 使用FileSystem实例的create方法获取写文件的输出流。 使用该输出流将内容写入到HDFS的指定文件中。 在写完文件后，需关闭所申请资源。 代码样例 如下是写文件的代码片段，详细代码请参考com.huawei.bigdata

查看更多 →

执行以下命令将生成的客户端证书（flume_cChat.jks）和客户端信任列表（flume_cChatt.jks）复制到客户端目录下，如“/opt/flume-client/fusionInsight-flume-1.9.0/conf/”（要求已安装Flume客户端），其中10.196.26.1为客户端所在节点业务平面的IP地址。

查看更多 →

型字节长度和编码有关）超过65535时，可能导致同步失败。 Oracle中表结构同步到MySQL后表的字符集为UTF8MB4。 当Oracle字符集是WE8MSWIN1252时，CLOB列同步到目标库可能出现乱码，建议先修改源库字符集为AL32UTF8再同步数据。 当使用PDB数据库同步时，由于Oracle

查看更多 →

会失败。 同步到kafka partition策略 同步到kafka partition策略。 按库名+表名的hash值投递到不同Partition：适用于单表的查询场景，表内保序，表与表之间不保序，可以提高单表读写性能，推荐使用此选项。 按主键的hash值投递到不同的Parti

查看更多 →

将MySQL同步到CSS/ES 支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 RDS for MySQL 5.5、5.6、5.7、8.0版本 ElasticSearch 5.5、6.2、6.5、7.1、7.6、7.9、7.10版本 使用建议 DRS任务启动和全量

查看更多 →

lient”，执行如下命令解压安装包到当前目录。 cd /opt/client tar -xvf FusionInsight _Cluster_1_Flume_Client.tar 校验软件包。 执行sha256sum -c命令校验解压得到的文件，返回“OK”表示校验通过。例如： sha256sum

查看更多 →

创建HDFS文件并写入内容 功能简介 写文件过程为： 使用FileSystem实例的create方法获取写文件的输出流。 使用该数据流将内容写入到HDFS的指定文件中。 在写完文件后，需关闭所申请资源。 代码样例 如下是写文件的代码片段，详细代码请参考com.huawei.bigdata

查看更多 →

创建HDFS文件并写入内容 功能简介 写文件过程为： 使用FileSystem实例的create方法获取写文件的输出流。 使用该输出流将内容写入到HDFS的指定文件中。 在写完文件后，需关闭所申请资源。 代码样例 如下是写文件的代码片段，详细代码请参考com.huawei.bigdata

查看更多 →

Sink，如图2所示。 图2 Flume配置工具示例 双击对应的Source、Channel以及Sink，根据实际环境并参考表1设置对应的配置参数。 如果对应的Flume角色之前已经配置过客户端参数，为保证与之前的配置保持一致，可以到“客户端安装目录/fusioninsight-flume-1.9.0/conf/properties

查看更多 →

单击“导出”，将配置文件“properties.properties”保存到本地。 上传配置文件。 登录FusionInsight Manager，选择“集群 > 服务 > Flume”，在“实例”下单击准备上传配置文件的“Flume”角色，单击“实例配置 ”页面“flume.config

查看更多 →

个Kafka管理员用户flume_kafka。 操作步骤 配置Flume的参数。 使用Manager界面中的Flume配置工具来配置Flume角色服务端参数并生成配置文件。 登录FusionInsight Manager，选择“集群 > 服务 > Flume > 配置工具”。 图1

查看更多 →

通过Sqoop读取MySQL数据并写parquet文件到OBS时失败 用户问题 通过Sqoop读取MySQL数据，然后直接写到OBS，指定parquet格式时写入报错，不指定parquet时不报错。 问题现象 原因分析 parquet格式不支持hive3，用Hcatalog方式写入。

查看更多 →

ALM-24011 Flume证书文件即将过期 本章节适用于 MRS 3.2.0及以后版本。 告警解释 Flume每隔一个小时，检查当前Flume证书文件是否即将过期，如果剩余有效期小于或等于30天，产生该告警。证书文件剩余有效期大于30天，告警恢复。 告警属性 告警ID 告警级别

查看更多 →

使用PuTTY工具(或其他终端工具)远程登录Flume 服务器 。 进入到Flume的安装目录。 cd ${FLUME_HOME} 上传“dis-flume-plugin-X.X.X.zip”安装包到此目录下。 解压安装包。 unzip dis-flume-plugin-X.X.X.zip 进入安装包解压后的目录。

查看更多 →

执行以下命令将生成的客户端证书（flume_cChat.jks）和客户端信任列表（flume_cChatt.jks）复制到客户端目录下，如“/opt/flume-client/fusionInsight-flume-1.9.0/conf/”（要求已安装Flume客户端），其中10.196.26.1为客户端所在节点业务平面的IP地址。

查看更多 →

Flume运维管理 Flume常用配置参数 Flume日志介绍 查看Flume客户端日志 查看Flume客户端监控信息 停止或卸载Flume客户端 父主题： 使用Flume

查看更多 →

录的“fusioninsight-flume-1.9.0/conf/”下。 新建jaas.conf配置文件到客户端所在节点安装目录的“fusioninsight-flume-1.9.0/conf/”下。 vi jaas.conf KafkaClient { com.sun.security

查看更多 →