Kafka同步Kafka
约束与限制
- 源端选择“Kafka实例”场景:
- 源Kafka和目标Kafka仅支持DMS服务Kafka实例,实例版本需保持一致,目前支持版本为2.7、3.x。
- 目标Kafka实例和源Kafka的代理数量、代理CPU、内存、存储空间需保持一致。
- Kafka同步作业会在源端Kafka实例创建1个系统使用的topic、占用1分区,在目标端创建1个系统使用的topic、占用1分区,创建事件流作业时请确保源端、目标端分区充足。
- 源端选择“Kafka地址”场景:
- 目标Kafka仅支持DMS服务Kafka实例,目前支持版本为2.7、3.x;源端Kafka支持2.7、3.x版本的DMS服务Kafka,或支持兼容开源2.7及以上版本的云厂商/自建Kafka。
- 目标Kafka实例和源Kafka的代理数量需保持一致,目标Kafka实例代理CPU、内存、存储空间、topic需不低于源Kafka,目标端分区数需要大于等于源端分区数+2。
- Kafka同步作业会在目标端创建2个系统使用的topic、共占用2分区,创建事件流作业时请确保目标端分区充足。
前提条件
- 已准备好源Kafka和目标Kafka。
- 确保VPC、子网,以及源端和目标端Kafka topic分区、存储空间等资源充足。
- 确保源端和目标端实例与用户创建事件流集群时选择的VPC网络互通。
操作步骤
- 登录事件网格控制台。
- 在左侧导航栏选择“事件流>专业版事件流作业”,进入“专业版事件流作业”页面。
- 右上角单击“创建作业”,进入“基础配置”。
- 配置“基本配置”信息,以下内容将以非白名单账号举例介绍。
表1 作业基本配置参数说明 参数
说明
集群
选择已创建的集群,如未创建,请参见专业版事件流集群。
作业名称
请输入作业名称。
场景类型
默认选择“同步”场景。
实现数据源之间的数据实时同步。
描述
请输入对本作业的描述。
- 单击“下一步:源和目标对象配置”,进入“源和目标对象配置”页面。
表2 源数据和目标数据配置参数说明 参数
说明
配置类型
选择配置类型,源数据端可选择“Kafka实例”和“Kafka地址”。目标数据端默认为“Kafka实例”。
实例别名
请输入实例别名。
用于标识源端和目标端实例,建议同一个源端或目标端实例只设置一个别名。
Kafka地址
当“配置类型”选择“Kafka地址”需配置。
输入Kafka地址。
区域
请选择资源所在区域。
项目
请选择项目。
Kafka实例
请选择Kafka实例。
接入方式
支持“明文接入”或“密文接入”。
安全协议
- 当选择明文接入时,安全协议为“PLAINTEXT”。
- 当选择“密文接入”时,安全协议可选择“SASL_SSL”或“SASL_PLAINTEXT”。
认证机制
当接入方式选择“密文接入”时需配置。
认证机制可选择“SCRAM-SHA-512”或“PLAIN”。
用户名
当接入方式选择“密文接入”时需配置。
请输入用户名。
密码
当接入方式选择“密文接入”时需配置。
请输入密码。
- 单击“测试连通性”按钮确认源端、目标端实例连通性通过之后,单击“下一步:高级配置”,进入“高级配置”页面。
图1 高级配置
表3 作业对象配置参数说明 参数
说明
Topic匹配类型
选择“正则匹配”或“精确匹配”。
说明:- 当选择“正则匹配”时需在下方输入“Topic正则”。示例:.* 表示匹配所有Topic,topic.* 表示匹配所有以topic为前缀的Topic。
- 当选择“精确匹配”时需选择“Topics”。
副本数
请配置副本数。
自动创建的Topic副本数,不能超过目标端Kafka的Broker数量。
同步消费进度
请选择是否打开。
开启时表示将消息消费进度同步到目标Kafka。
启动偏移量
请选择为“最早”或“最新”。
压缩算法
请选择压缩算法为“none”、“gzip”、“snappy”、“lz4”或“zstd”。
- 单击“下一步:预检查”,进入“预检查”页面,完成后单击“完成配置”。
- 返回专业版事件流作业列表,单击刚才创建的事件流名称,进入“基本信息”页面,选择“作业管理”,可以查看“同步进展详情”。
表4 参数说明 参数名称
说明
Topic名称
创建Kafka实例时的Topic。
分区数
创建Topic时设置的分区数,分区数越大消费的并发度越大。
待同步数
当前Topic分区数中未同步的消息数量。
同步速率:当前作业同步消息时的速率,单击“限流”可跳转至源端Kafka实例的“流控列表”页面,用户可通过配置流控进而实现限流目的。