更新时间:2025-08-07 GMT+08:00

Kafka同步Kafka

约束与限制

  • 源端选择“Kafka实例”场景:
    • 源Kafka和目标Kafka仅支持DMS服务Kafka实例,实例版本需保持一致,目前支持版本为2.7、3.x。
    • 目标Kafka实例和源Kafka的代理数量、代理CPU、内存、存储空间需保持一致。
    • Kafka同步作业会在源端Kafka实例创建1个系统使用的topic、占用1分区,在目标端创建1个系统使用的topic、占用1分区,创建事件流作业时请确保源端、目标端分区充足。
  • 源端选择“Kafka地址”场景:
    • 目标Kafka仅支持DMS服务Kafka实例,目前支持版本为2.7、3.x;源端Kafka支持2.7、3.x版本的DMS服务Kafka,或支持兼容开源2.7及以上版本的云厂商/自建Kafka。
    • 目标Kafka实例和源Kafka的代理数量需保持一致,目标Kafka实例代理CPU、内存、存储空间、topic需不低于源Kafka,目标端分区数需要大于等于源端分区数+2。
    • Kafka同步作业会在目标端创建2个系统使用的topic、共占用2分区,创建事件流作业时请确保目标端分区充足。

前提条件

  • 已准备好源Kafka和目标Kafka。
  • 确保VPC、子网,以及源端和目标端Kafka topic分区、存储空间等资源充足。

    创建VPC和子网的操作指导请参考创建虚拟私有云和子网

  • 确保源端和目标端实例与用户创建事件流集群时选择的VPC网络互通。

操作步骤

  1. 登录事件网格控制台
  2. 在左侧导航栏选择“事件流>专业版事件流作业”,进入“专业版事件流作业”页面。
  3. 右上角单击“创建作业”,进入“基础配置”。
  4. 配置“基本配置”信息,以下内容将以非白名单账号举例介绍。

    表1 作业基本配置参数说明

    参数

    说明

    集群

    选择已创建的集群,如未创建,请参见专业版事件流集群

    作业名称

    请输入作业名称。

    场景类型

    默认选择“同步”场景。

    实现数据源之间的数据实时同步。

    描述

    请输入对本作业的描述。

  5. 单击“下一步:源和目标对象配置”,进入“源和目标对象配置”页面。

    表2 源数据和目标数据配置参数说明

    参数

    说明

    配置类型

    选择配置类型,源数据端可选择“Kafka实例”和“Kafka地址”。目标数据端默认为“Kafka实例”。

    实例别名

    请输入实例别名。

    用于标识源端和目标端实例,建议同一个源端或目标端实例只设置一个别名。

    Kafka地址

    当“配置类型”选择“Kafka地址”需配置。

    输入Kafka地址。

    区域

    请选择资源所在区域。

    项目

    请选择项目。

    Kafka实例

    请选择Kafka实例。

    接入方式

    支持“明文接入”或“密文接入”。

    安全协议

    • 当选择明文接入时,安全协议为“PLAINTEXT”。
    • 当选择“密文接入”时,安全协议可选择“SASL_SSL”或“SASL_PLAINTEXT”。

    认证机制

    当接入方式选择“密文接入”时需配置。

    认证机制可选择“SCRAM-SHA-512”或“PLAIN”。

    用户名

    当接入方式选择“密文接入”时需配置。

    请输入用户名。

    密码

    当接入方式选择“密文接入”时需配置。

    请输入密码。

  6. 单击“测试连通性”按钮确认源端、目标端实例连通性通过之后,单击“下一步:高级配置”,进入“高级配置”页面。

    图1 高级配置

    表3 作业对象配置参数说明

    参数

    说明

    Topic匹配类型

    选择“正则匹配”或“精确匹配”。

    说明:
    • 当选择“正则匹配”时需在下方输入“Topic正则”。示例:.* 表示匹配所有Topic,topic.* 表示匹配所有以topic为前缀的Topic。
    • 当选择“精确匹配”时需选择“Topics”。

    副本数

    请配置副本数。

    自动创建的Topic副本数,不能超过目标端Kafka的Broker数量。

    同步消费进度

    请选择是否打开。

    开启时表示将消息消费进度同步到目标Kafka。

    启动偏移量

    请选择为“最早”或“最新”。

    压缩算法

    请选择压缩算法为“none”、“gzip”、“snappy”、“lz4”或“zstd”。

  7. 单击“下一步:预检查”,进入“预检查”页面,完成后单击“完成配置”。
  8. 返回专业版事件流作业列表,单击刚才创建的事件流名称,进入“基本信息”页面,选择“作业管理”,可以查看“同步进展详情”。

    表4 参数说明

    参数名称

    说明

    Topic名称

    创建Kafka实例时的Topic。

    分区数

    创建Topic时设置的分区数,分区数越大消费的并发度越大。

    待同步数

    当前Topic分区数中未同步的消息数量。

    同步速率:当前作业同步消息时的速率,单击“限流”可跳转至源端Kafka实例的“流控列表”页面,用户可通过配置流控进而实现限流目的。