更新时间:2024-12-03 GMT+08:00
分享

DMS Kafka同步到OBS

源端优化

Kafka抽取优化

可通过在源端配置中单击“Kafka源端属性配置”来添加Kafka优化配置。

图1 添加自定义属性

可使用的调优参数具体如下:

表1 全量阶段优化参数

参数名

类型

默认值

说明

properties.fetch.max.bytes

int

57671680

消费Kafka时每次fetch请求返回的最大字节数。Kafka单条消息大的场景,可以适当调高每次获取的数据量,以提高性能。

properties.max.partition.fetch.bytes

int

1048576

消费Kafka时服务器将返回的每个分区的最大字节数。Kafka单条消息大的场景,可以适当调高每次获取的数据量,以提高性能。

properties.max.poll.records

int

500

消费者每次poll时返回的最大消息条数。Kafka单条消息大的场景,可以适当调高每次获取的数据量,以提高性能。

目的端优化

OBS写入优化

若开启了自动合并可尝试关闭,否则请优先增加并发解决。

相关文档