分布式消息服务 Kafka 

 

分布式消息服务 Kafka 是一个高吞吐、高可用的消息中间件服务,适用于构建实时数据管道、流式数据处理、第三方解耦、流量削峰去谷等场景,具有大规模、高可靠、高并发访问、可扩展且完全托管的特点,是分布式应用上云必不可少的重要组件

 
 

    kafka acks 配置 更多内容
  • Kafka高可靠使用说明

    apache.kafka.clients.producer.KafkaProducer中定义的接口,acks配置acks。 旧Producer API 指kafka.producer.Producer中定义的接口,acks配置名称为request.required.acks。 参数配

    来自:帮助中心

    查看更多 →

  • 配置Kafka高可用和高可靠

    配置Kafka高可用和高可靠 操作场景 Kafka消息传输保障机制,可以通过配置不同的参数来保障消息传输,进而满足不同的性能和可靠性要求。本章节介绍如何配置Kafka高可用和高可靠参数。 本章节内容适用于 MRS 3.x及后续版本。 对系统的影响 配置高可用、高性能的影响: 配置

    来自:帮助中心

    查看更多 →

  • 配置Kafka高可用和高可靠

    的副本数,那么将会导致业务写入失败。 参数配置项为服务配置需要重启Kafka,建议在变更窗口做服务配置修改。 参数描述 如果业务需要保证高可用和高性能。 在服务配置如表1中参数,参数配置入口请参考修改集群服务配置参数。 表1 服务端高可用性和高性能参数说明 参数 默认值 说明

    来自:帮助中心

    查看更多 →

  • 测试Kafka生产速率和CPU消耗

    内网访问:开启“明文接入” 公网访问:不开启 更多配置:不开启“Smart Connect”和“Kafka自动创建Topic” 购买完成后,在实例详情页获取Kafka实例的地址。 在购买的Kafka实例中,创建如下参数的3个Topic,具体步骤请参考创建Kafka Topic。 Topic-01:3分区1副本,异步复制

    来自:帮助中心

    查看更多 →

  • 创建目标连接

    最大长度:128 type 否 String 目标连接类型。目前支持webhook:http连接;kafka:华为云官方kafka实例 枚举值: WEBHOOK KAFKA kafka_detail 否 KafkaConnectionDetail object 表4 KafkaConnectionDetail

    来自:帮助中心

    查看更多 →

  • 使用KAFKA协议上报日志到LTS

    据所在局点进行配置。 支持 Kafka 协议版本为:1.0.X,2.X.X,3.X.X。 支持压缩方式:gzip,snappy,lz4。 KAFKA认证方式为 SASL_PLAINTEXT 认证。 KAFKA协议的ACKS参数必须设置为0。 配置方式 使用Kafka协议上报日志时,需要使用到的通用参数如下。

    来自:帮助中心

    查看更多 →

  • 配置Kafka用户

    通过以下任意一种方法,重置初始用户的密码。 在需要重置密码的Kafka实例右侧,单击“更多 > 重置Kafka密码”,弹出“重置Kafka密码”对话框。 单击Kafka实例名称,进入实例详情页面。单击右上角的“更多 > 重置Kafka密码”,弹出“重置Kafka密码”对话框。 单击Kafka实例名称,进入实例详情页面。在“基本信息”页面,在“连接信息

    来自:帮助中心

    查看更多 →

  • Kafka客户端参数配置建议

    Kafka客户端参数配置建议 Kafka客户端的配置参数很多,以下提供Producer和Consumer几个常用参数配置。不同版本的Kafka客户端参数名称可能不同,以下配置参数适用于1.1.0及以上版本。其他参数和版本配置,请参考Kafka配置。 表1 Producer参数 参数

    来自:帮助中心

    查看更多 →

  • 配置Kafka连接

    您可以添加客户端的配置属性。所添加的每个属性需配置属性名称和值。对于不再需要的属性,可单击属性后的“删除”按钮进行删除。 Apache Kafka Apache Kafka连接适用于用户在本地数据中心或E CS 上自建的第三方Kafka,其中本地数据中心的Kafka需通过专线连接。 连接Apache

    来自:帮助中心

    查看更多 →

  • 配置Kafka连接

    您可以添加客户端的配置属性。所添加的每个属性需配置属性名称和值。对于不再需要的属性,可单击属性后的“删除”按钮进行删除。 Apache Kafka Apache Kafka连接适用于用户在本地数据中心或ECS上自建的第三方Kafka,其中本地数据中心的Kafka需通过专线连接。 连接Apache

    来自:帮助中心

    查看更多 →

  • 测试Kafka实例TPS

    properties bootstrap.servers:购买Kafka实例后,获取的Kafka实例的地址。 acks消息主从同步策略,acks=1表示异步复制消息acks=-1表示同步复制消息。 batch.size:每次批量发送消息的大小(单位为字节)。 linger.ms:两次发送时间间隔。

    来自:帮助中心

    查看更多 →

  • 配置Kafka/DMS Kafka源端参数

    配置Kafka/DMS Kafka源端参数 作业中源连接为Kafka连接或DMS Kafka连接时,源端作业参数如表1所示。 表1 Kafka作为源端时的作业参数 参数类型 参数 说明 取值样例 基本参数 Topics 支持单个或多个topic。 est1,est2 数据格式 解析数据时使用的格式:

    来自:帮助中心

    查看更多 →

  • 配置Kafka/DMS Kafka源端参数

    配置Kafka/DMS Kafka源端参数 作业中源连接为Kafka连接或DMS Kafka连接时,源端作业参数如表1所示。 表1 Kafka作为源端时的作业参数 参数类型 参数 说明 取值样例 基本参数 Topics 支持单个或多个topic。 est1,est2 数据格式 解析数据时使用的格式:

    来自:帮助中心

    查看更多 →

  • 查询目标连接列表

    object 规格 type String 目标连接类型。目前支持webhook:http连接;kafka:华为云官方kafka实例 枚举值: WEBHOOK KAFKA kafka_detail KafkaConnectionDetail object created_time

    来自:帮助中心

    查看更多 →

  • 查询目标连接详情

    object 规格 type String 目标连接类型。目前支持webhook:http连接;kafka:华为云官方kafka实例 枚举值: WEBHOOK KAFKA kafka_detail KafkaConnectionDetail object created_time

    来自:帮助中心

    查看更多 →

  • 更新目标连接

    object 规格 type String 目标连接类型。目前支持webhook:http连接;kafka:华为云官方kafka实例 枚举值: WEBHOOK KAFKA kafka_detail KafkaConnectionDetail object created_time

    来自:帮助中心

    查看更多 →

  • 修改Kafka Topic配置

    修改Kafka Topic配置 本章节指导您在控制台修改Kafka Topic的如下配置。 表1 Kafka Topic的配置参数 参数名称 说明 分区数 Topic的分区数,修改方法请参见修改Kafka Topic分区数。 老化时间 消息的最长保留时间,修改方法请参见修改Kafka消息老化时间。

    来自:帮助中心

    查看更多 →

  • Kafka

    Kafka Kafka是一个分布式流处理平台,最初由LinkedIn开发。它是一个高吞吐量、低延迟的平台,可以处理大量的实时数据流。Kafka主要由三个部分组成:生产者、消费者和代理 服务器 。生产者将数据发布到Kafka集群,消费者从Kafka集群订阅数据并进行处理,代理服务器则是

    来自:帮助中心

    查看更多 →

  • 配置Kafka流控

    登录管理控制台。 在管理控制台左上角单击,选择区域。 请选择Kafka实例所在的区域。 在管理控制台左上角单击,选择“应用中间件 > 分布式消息服务Kafka版”,进入分布式消息服务Kafka专享版页面。 单击Kafka实例的名称,进入实例详情页面。 在左侧导航栏单击“流控管理 >

    来自:帮助中心

    查看更多 →

  • 配置Kafka实例标签

    配置Kafka实例标签 标签是Kafka实例的标识,为Kafka实例添加标签,可以方便用户识别和管理拥有的Kafka实例资源。 您可以在创建Kafka实例时添加标签,也可以在Kafka实例创建完成后,在“标签”页面添加标签,您最多可以给实例添加20个标签。另外,您还可以删除标签。

    来自:帮助中心

    查看更多 →

  • Kafka常用配置参数

    Kafka常用配置参数 本章节内容适用于MRS 3.x及后续版本。 参数入口 请参考修改集群服务配置参数进入Kafka服务参数“全部配置”页面。 常用参数 表1 参数说明 配置参数 说明 缺省值 log.dirs Kafka数据存储目录列表,以逗号分隔多个目录。 %{@auto.detect

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了