参见配置云数据库MySQL/MySQL数据库连接。这里保持默认，必填参数如表1所示。 表1 MySQL连接参数 参数名 说明 取值样例 名称 输入便于记忆和区分的连接名称。 mysqllink 数据库 服务器 MySQL数据库的IP地址或 域名 。 - 端口 MySQL数据库的端口。 3306

查看更多 →

MRS Hive目标端写入时出现数据乱码 原因分析 创建任务时，目标端存储类型选择与建表时类型不一致。 比如建表时存储类型为text（文本文件），而创建任务时目标端存储类型选择了RCFile格式。 解决方案 修改界面选择的存储类型与建表时一致即可。 父主题： 数据集成任务

查看更多 →

参考创建数据集成任务（普通任务）接入源端自定义数据源和目标端MySQL数据源，并创建定时任务。完成后运行任务，可以将源端自定义的数据源中的数据，迁移到MySQL数据源的表中。 执行任务后，FDI会根据自定义连接实例定义的连接地址（http://127.0.0.1:19091/mysql）去读取或写入数据，读接口加后

查看更多 →

kafka代理节点地址，配置形式为HOST:PORT[,HOST:PORT] - kafka_topic 否 写入kafka的topic名称 maxwell dead_letter_topic 否 当发送某条记录出错时，记录该条出错记录主键的kafka topic - kafka_version 否

查看更多 →

kafka代理节点地址，配置形式为HOST:PORT[,HOST:PORT] - kafka_topic 否 写入kafka的topic名称 maxwell dead_letter_topic 否 当发送某条记录出错时，记录该条出错记录主键的kafka topic - kafka_version 否

查看更多 →

查询具体更新的文件分区，因此它的速度比UPSERT快。当数据源不包含更新数据时建议使用该操作，如果数据源中存在更新数据，则在数据湖中会出现重复数据。 BULK_INSERT（批量插入）：用于初始数据集加载， 该操作会对主键进行排序后直接以写普通parquet表的方式插入Hudi表

查看更多 →

管理并发写入操作 事务隔离说明 写入和读写操作 并发写入事务的潜在死锁情况 并发写入示例 父主题： 导入数据

查看更多 →

写入更新数据时报错 Parquet/Avro schema 问题 数据写入时报错： org.apache.parquet.io.InvalidRecordException: Parquet/Avro schema mismatch: Avro field 'col1' not found

查看更多 →

Streaming从Kafka读取数据再写入HBase 场景说明 Java样例代码 Scala样例代码 父主题： 开发Spark应用

查看更多 →

int) with ( 'connector' = 'datagen', 'rows-per-second' = '1', --每秒生成一条数据 'fields.user_id.kind' = 'random', --为字段user_id指定random生成器 'fields.user_id

查看更多 →

int) with ( 'connector' = 'datagen', 'rows-per-second' = '1', --每秒生成一条数据 'fields.user_id.kind' = 'random', --为字段user_id指定random生成器 'fields.user_id

查看更多 →

by语句。在MySQL中，distinct关键字的主要作用就是去重过滤。 distinct进行去重的原理是先进行分组操作，然后从每组数据中取一条返回给客户端，分组时有两种场景： distinct的字段全部包含于同一索引：该场景下MySQL直接使用索引对数据进行分组，然后从每组数据中取一条数据返回。

查看更多 →

by语句。在MySQL中，distinct关键字的主要作用就是去重过滤。 distinct进行去重的原理是先进行分组操作，然后从每组数据中取一条返回给客户端，分组时有两种场景： distinct的字段全部包含于同一索引：该场景下MySQL直接使用索引对数据进行分组，然后从每组数据中取一条数据返回。

查看更多 →

写入更新数据时报错 Parquet/Avro schema 问题 数据写入时报错： org.apache.parquet.io.InvalidRecordException: Parquet/Avro schema mismatch: Avro field 'col1' not found

查看更多 →

从Kafka读取数据写入到Elasticsearch 本指导仅适用于Flink 1.12版本。 场景描述 本示例场景对用户购买商品的数据信息进行分析，将满足特定条件的数据结果进行汇总输出。购买商品数据信息为数据源发送到Kafka中，再将Kafka数据的分析结果输出到Elasticsearch中。

查看更多 →

相关链接 关于获取桶元数据的API说明，请参见获取桶元数据。 更多关于获取桶元数据的示例代码，请参见Github示例。 获取桶元数据过程中返回的错误码含义、问题原因及处理措施可参考OBS错误码。 桶和对象相关常见问题请参见桶和对象相关常见问题。 父主题： 管理桶(Java SDK)

查看更多 →

Spark同步HBase数据到CarbonData（Java） 下面代码片段仅为演示，具体代码参见：com.huawei.spark.examples.HBaseExternalHivetoCarbon。 public static void main(String[] args)

查看更多 →

Spark同步HBase数据到CarbonData（Java） 下面代码片段仅为演示，具体代码参见：com.huawei.spark.examples.HBaseExternalHivetoCarbon。 public static void main(String[] args)

查看更多 →

L被截断，可能会出现解析异常的情况。 流量文件单条SQL大小不能超过1MB。 事务中穿插了其他语句可能会导致死锁。 其他使用须知： 源数据库和目标数据库的配置参数不一致（例如：innodb_buffer_pool_size，sqlmode等），可能会导致回放进度慢或失败等情况。

查看更多 →

数据库录制流量文件时的真实状态，基线数据越接近，录制回放越真实。 流量文件要求： 流量文件SQL内容包含内容分隔符时，可能存在解析异常导致任务回放失败。 流量文件必须保证全量SQL结构完整，如果用户提供的审计日志中SQL被截断，可能会出现解析异常的情况。 流量文件单条SQL大小不能超过1MB。

查看更多 →

写入性能优化 CSS 集群在使用前，建议参考本文进行集群的写入性能优化，便于提高集群的写入性能，提升使用效率。 数据写入流程 图1 数据写入流程 当从客户端往Elasticsearch中写入数据时，写入流程如下： 客户端向Node1发送写数据请求，此时Node1为协调节点。 节点N

查看更多 →