Kafka Kafka jar包冲突列表 Jar包名称 描述 kafka_2.11-*.jar 连接Kafka服务必须的jar包。 kafka-clients-*.jar 连接Kafka服务必须的jar包。 解决方案 Kafka不建议使用开源版本的包。 父主题： MRS 应用开发开源jar包冲突列表说明

查看更多 →

进入客户端配置文件解压路径的“Kafka\config”，获取Kafka表1中相关配置文件。 表1 配置文件 配置文件 作用 client.properties Kafka的客户端的配置信息。 consumer.properties Kafka的consumer端配置信息。 kafkaSecurityMode

查看更多 →

进入客户端配置文件解压路径的“Kafka\config”，获取Kafka表1中相关配置文件。 表1 配置文件 配置文件 作用 client.properties Kafka的客户端的配置信息。 consumer.properties Kafka的consumer端配置信息。 producer

查看更多 →

在管理控制台左上角单击，选择区域。 请选择Kafka实例所在的区域。 在管理控制台左上角单击，选择“应用中间件 > 分布式消息服务Kafka版”，进入分布式消息服务Kafka专享版页面。 在左侧导航栏单击“Kafka实例”，进入Kafka实例列表页面。 单击Kafka实例的名称，进入实例的“基本信息”页面。

查看更多 →

安装Kafka 简介 Kafka是一个拥有高吞吐、可持久化、可水平扩展，支持流式数据处理等多种特性的分布式消息流处理中间件，采用分布式消息发布与订阅机制，在日志收集、流式数据传输、在线/离线系统分析、实时监控等领域有广泛的应用。 本教程介绍如何在HCE 2.0上安装部署Kafka。

查看更多 →

在“入方向规则”页签，选择“添加规则”，在“添加入方向规则”窗口配置Windows的IP和9092端口。 图3 添加入方向规则 。 在Manager界面选择“集群 > 服务 > Kafka > 配置 > 全部配置”，搜索“kafka.config.expandor”，并添加参数名为“advertised

查看更多 →

“添加入方向规则”窗口配置Windows的IP和21007、21730TCP、21731TCP/UDP、21732TCP/UDP端口。 图3 添加入方向规则 在Manager界面选择“集群 > 服务 > Kafka > 配置 > 全部配置”，搜索“kafka.config.exp

查看更多 →

Apache Kafka同步到MRS Kafka 源端优化 Kafka抽取优化 可通过在源端配置中单击“Kafka源端属性配置”来添加Kafka优化配置。 图1 添加自定义属性 可使用的调优参数具体如下： 表1 全量阶段优化参数 参数名 类型 默认值 说明 properties.fetch

查看更多 →

先购买Kafka实例。Kafka实例采用物理隔离的方式部署，租户独占Kafka实例。 支持区域： 全部 购买Kafka实例 连接Kafka 开源Kafka客户端向Kafka实例生产消息和消费消息前，需要先连接Kafka实例。 创建Kafka实例时，支持开启或者关闭SASL_SSL

查看更多 →

使用Kafka Kafka用户权限管理 Kafka客户端使用实践 使用Kafka生产消费数据 创建Kafka Topic 在Kafka Topic中接入消息 管理Kafka Topic Kafka企业级能力增强 Kafka性能调优 Kafka运维管理 Kafka常见问题

查看更多 →

重启Kafka实例 分布式消息服务Kafka版支持在控制台重启单个Kafka实例，或批量重启Kafka实例。 约束与限制 在Kafka实例重启过程中，客户端的生产与消费消息等请求会被拒绝。 在客户端配置重试机制，避免因为重启实例导致的业务断连。 前提条件 只有当Kafka实例处于

查看更多 →

分布式消息服务Kafka版 本章节介绍在创建事件流时，如何配置分布式消息服务Kafka版实例为事件源。 前提条件 已在分布式消息服务Kafka版中购买Kafka实例，详情请参见购买Kafka实例。 Kafka实例中的安全组在“入方向规则”中放开Kafka实例的子网网段和端口，详情

查看更多 →

创建Kafka Topic Topic，即消息主题，用于存储消息，供生产者生产消息以及消费者订阅消息。创建Kafka实例成功后，如果没有开启“Kafka自动创建Topic”，需要手动创建Topic。如果实例开启了“Kafka自动创建Topic”，则该操作为可选。 “Kafka自动

查看更多 →

Kafka Sink配置发送失败重试机制 问题描述 用户执行Flink Opensource SQL, 采用Flink 1.10版本。Flink Sink写Kafka报错后作业失败： Caused by: org.apache.kafka.common.errors.NetworkException:

查看更多 →

配置Kafka数据安全传输协议 本章节内容适用于MRS 3.x及后续版本。 Kafka API简单说明 Producer API 指org.apache.kafka.clients.producer.KafkaProducer中定义的接口，在使用“kafka-console-producer

查看更多 →

需要带上kafka服务名kafka MRS服务是否开启Kerberos认证配置项。 表4 kafkaSecurityMode文件配置项 参数 描述 备注 kafka.client.security.mode kafka所在的MRS服务集群是否开启Kerberos认证配置项 若开启

查看更多 →

DDS->Kafka 暂不支持 支持 暂不支持 PostgreSQL->Kafka 支持 支持 暂不支持 GaussDB (for MySQL)->Kafka 支持 支持 支持 GaussDB主备版->Kafka 支持 支持 暂不支持 GaussDB分布式版->Kafka 支持 支持

查看更多 →

Kafka删除消息 功能介绍 Kafka删除消息。 调用方法 请参见如何调用API。 URI DELETE /v2/{project_id}/kafka/instances/{instance_id}/topics/{topic}/messages 表1 路径参数 参数 是否必选

查看更多 →

最新动态（html） 本文介绍了Huawei Cloud EulerOS产品新特性和对应的文档动态，新特性将在各个区域（Region）陆续发布，欢迎体验。

查看更多 →

空间。 如果每个Topic配置不一样，按Topic粒度收集。 Kafka生产和消费的流量大小 细化到Topic级别。 Kafka客户端ACK配置Acks - 数据迁移模型样例 一个离线分析平台的客户业务系统，由Spark Streaming消费Kafka数据存入HDFS，HDFS

查看更多 →

参考Kafka客户端使用实践，登录到Kafka客户端安装目录。 以Kafka客户端安装用户，登录Kafka安装客户端的节点。 执行以下命令，切换到客户端安装目录。 cd /opt/client 执行以下命令配置环境变量。 source bigdata_env 如果当前集群已启用Kerberos认证，执行以

查看更多 →