查看Kafka消费者信息 本章节介绍如何查看消费者列表和消费者连接地址。 Kafka Manager由于缓存原因，显示的消费者连接地址可能不是当前消费者连接地址，建议重启Kafka Manager解决。 2023年5月17日及以后创建的实例不提供Kafka Manager功能，不支持在Kafka

查看更多 →

Producer/生产者 向Kafka的主题发布消息。 Consumer/消费者 向Topic订阅，并且接收发布到这些Topic的消息。 各模块间关系如图2所示。 图2 Kafka模块间关系 消费者使用一个消费者组名称来标记自己，主题的每个消息被传递给每个订阅消费者组中的一个消费者。如果所有的消

查看更多 →

在于将消息内容传递给其他系统，使对方能按照约定处理该消息。 消费者 消费者为从消息主题（Topic）订阅消息的一方，订阅消息的最终目的在于处理消息内容。如日志集成场景中，监控告警平台作为消费者从Topic订阅日志消息，识别出告警日志并发送告警消息/邮件。 分区 Kafka将消息主

查看更多 →

Kafka相关概念 华为云使用Kafka作为消息引擎，以下概念基于Kafka进行描述。 Topic 消息主题。消息的生产与消费，围绕消息主题进行生产、消费以及其他消息管理操作。 Topic也是消息队列的一种发布与订阅消息模型。生产者向消息主题发布消息，多个消费者订阅该消息主题的消息，生产者与消费者彼此并无直接关系。

查看更多 →

先购买Kafka实例。Kafka实例采用物理隔离的方式部署，租户独占Kafka实例。 支持区域： 全部 购买Kafka实例 连接Kafka 开源Kafka客户端向Kafka实例生产消息和消费消息前，需要先连接Kafka实例。 创建Kafka实例时，支持开启或者关闭SASL_SSL

查看更多 →

234.231:2181/kafka" Rebalance异常。 同一个消费者组(consumer group)有多个consumer先后启动，就是一个消费者组内有多个consumer同时消费多个partition数据，consumer端也会有负载均衡（consumer个数小于partitions数量时）。

查看更多 →

致部分消息丢失。 删除Kafka消息 登录管理控制台。 在管理控制台左上角单击，选择区域。 请选择Kafka实例所在的区域。 在管理控制台左上角单击，选择“应用中间件 > 分布式消息服务Kafka版”，进入分布式消息服务Kafka专享版页面。 单击Kafka实例名称，进入实例详情页面。

查看更多 →

的实际消息内容，一行为一条消息。 若要断开与Topic的连接，按“Ctrl+C”断开连接。 从Topic消费消息。 一个消费者从一个Topic的多个分区消费消息时，一次只能消费一个分区的消息，多个分区会分多次进行消费。 执行以下命令，与Topic建立消费消息的连接并读取消息。 .

查看更多 →

CreateTime：生产者创建消息的时间。 LogAppendTime：broker将消息写入日志的时间。 批处理消息最大值 Kafka允许的最大批处理大小，如果启用消息压缩，则表示压缩后的最大批处理大小。 如果增加“批处理消息最大值”的值，且存在消费者版本早于0.10.2，此时消费者的“fetch size

查看更多 →

云数据库 GaussDB 分布式版 分布式消息服务Kafka 数据复制服务 DRS GaussDB分布式数据库架构说明 图1 GaussDB分布式逻辑架构图 GaussDB分布式主要包含了OM、CM、GTM、CN和DN等模块，分布式版主要流程为业务应用下发SQL给CN ，SQL可以包含对数据的

查看更多 →

区数较多且每个消费者开启多个线程的情况下。 如图1所示，Topic含有多个分区，消费组中有多个消费者同时进行消费，每个线程均为长连接。当Topic中消息较少或者没有时，连接不断开，所有消费者不间断地拉取消息，这样造成了一定的资源浪费。 图1 Kafka消费者多线程消费模式 优化方案

查看更多 →

消息堆积处理建议 方案概述 Kafka将Topic划分为多个分区，消息被分布式存储在分区中。同一个消费组内，一个消费者可同时消费多个分区，但一个分区在同一时刻只能被一个消费者消费。 在消息处理过程中，如果客户端的消费速度跟不上服务端的发送速度，未处理的消息会越来越多，这部分消息就

查看更多 →

消息就被称为堆积消息。消息没有被及时消费就会产生消息堆积，从而会造成消息消费延迟。 消息堆积原因 导致消息堆积的常见原因如下： 生产者短时间内生产大量消息到Topic，消费者无法及时消费。 消费者的消费能力不足（消费者并发低、消息处理时间长），导致消费效率低于生产效率。 消费者异

查看更多 →

Connect任务，用于同步两个Kafka的消息。具体步骤请参见配置Kafka间的数据复制。 在Kafka控制台的“消息查询”页面，查看两个Kafka的最新消息是否一致，确认两个Kafka的同步进度是否一致。具体步骤请参见查看Kafka消息。 是，执行3。 否，在监控页面查看两个Kafka的“Kafka每分

查看更多 →

该指标用于统计消费组指定队列可以消费的消息个数。 出现该告警时，首先排查消费者代码逻辑是否有误，例如消费者出现了异常不再消费等。其次，可以考虑加快消息的消费，例如增加队列消费者，并确保分区数大于或等于消费者数。 配置Kafka监控告警 登录管理控制台。 在管理控制台左上角单击，选择区域。 请选择Kafka实例所在的区域。

查看更多 →

重复发送消息。如果接收到发送成功的信号，则表明该消息已经被分布式消息服务Kafka版可靠存储。 消息消费 消息消费时，消费者需要确认消息是否已被成功消费。 生产的消息被依次存储在分布式消息服务Kafka版的存储介质中。消费时依次获取分布式消息服务Kafka版中存储的消息。消费者获

查看更多 →

KafkaManager介绍 KafkaManager是Apache Kafka的管理工具，提供Kafka集群界面化的Metric监控和集群管理。 通过KafkaManager可以： 支持管理多个Kafka集群 支持界面检查集群状态（主题，消费者，偏移量，分区，副本，节点） 支持界面执行副本的leader选举

查看更多 →

本方案中，先将生产消息的业务迁移到ROMA Connect，原Kafka不会有新的消息生产。待原Kafka的消息全部消费完成后，再将消费消息业务迁移到ROMA Connect，开始消费新的消息。 该案为业界通用的迁移方案，操作步骤简单，迁移过程由业务侧自主控制，整个过程中消息不会存在乱序

查看更多 →

KafkaManager KafkaManager是Apache Kafka的管理工具，提供Kafka集群界面化的Metric监控和集群管理。 通过KafkaManager进行以下操作： 支持管理多个Kafka集群 支持界面检查集群状态（主题，消费者，偏移量，分区，副本，节点） 支持界面执行副本的leader选举

查看更多 →

分布式消息服务Kafka版接入LTS LTS支持分布式消息服务Kafka日志接入，具体接入方法请参见查看重平衡日志。 结构化模板日志详情 DMS重平衡日志示例日志 表1 结构化模板示例 模板名称 示例日志 DMS重平衡日志 { "level":"INFO", "timestamp":"2023-03-23

查看更多 →

管理Kafka Topic中的消息 操作场景 用户可以根据业务需要，使用 MRS 集群客户端，在Kafka主题中产生消息，或消费消息。 前提条件 已安装集群客户端。 启用Kerberos认证的集群，需要提前在Manager中创建业务用户，用户拥有在Kafka主题中执行相应操作的权限。

查看更多 →