分布式消息服务 Kafka 

 

分布式消息服务 Kafka 是一个高吞吐、高可用的消息中间件服务,适用于构建实时数据管道、流式数据处理、第三方解耦、流量削峰去谷等场景,具有大规模、高可靠、高并发访问、可扩展且完全托管的特点,是分布式应用上云必不可少的重要组件

 
 

    kafka 配置 更多内容
  • Kafka配置内外网访问

    ID。 选择“集群 > 服务 > Kafka > 配置 > 全部配置 > Broker(角色) > 服务”。在搜索框分别输入“advertised”和 "actual",会出现如下图所示五个配置项,可参考表1配置具体参数。 表1 参数配置说明 配置项 描述 取值要求 enable.advertised

    来自:帮助中心

    查看更多 →

  • 配置对接Kafka

    Manager页面,选择“集群 > 服务 > Kafka > 配置”,参数类别设置为“全部配置”,搜索“ssl.mode.enable”并配置为“true”。 客户端配置。 登录集群的 FusionInsight Manager,选择“集群 > 服务 > Kafka > 更多 > 下载客户端”,下载客户端压缩文件到本地机器。

    来自:帮助中心

    查看更多 →

  • 配置对接Kafka

    Manager页面,选择“集群 > 服务 > Kafka > 配置”,参数类别设置为“全部配置”,搜索“ssl.mode.enable”并配置为“true”。 客户端配置。 登录集群的FusionInsight Manager,选择“集群 > 待操作的集群名称 > 服务 > Kafka > 更多 >

    来自:帮助中心

    查看更多 →

  • 配置Kafka连接

    配置Kafka连接 MRS Kafka 连接MRS上的Kafka数据源时,相关参数如表1所示。 表1 MRS Kafka连接参数 参数名 说明 取值样例 名称 连接的名称,根据连接的数据源类型,用户可自定义便于记忆、区分的连接名。 kafka_link Manager IP MRS

    来自:帮助中心

    查看更多 →

  • 配置Kafka/DMS Kafka源端参数

    配置Kafka/DMS Kafka源端参数 作业中源连接为Kafka连接或DMS Kafka连接时,源端作业参数如表1所示。 表1 Kafka作为源端时的作业参数 参数类型 参数 说明 取值样例 基本参数 Topics 支持单个或多个topic。 est1,est2 数据格式 解析数据时使用的格式:

    来自:帮助中心

    查看更多 →

  • 配置ClickHouse对接Kafka

    配置ClickHouse对接Kafka 配置ClickHouse通过用户密码对接Kafka 配置ClickHouse通过Kerberos认证对接Kafka 配置ClickHouse对接普通模式Kafka 父主题: 高阶使用

    来自:帮助中心

    查看更多 →

  • 配置Kafka连接

    配置Kafka连接 MRS Kafka 连接MRS上的Kafka数据源时,相关参数如表1所示。 表1 MRS Kafka连接参数 参数名 说明 取值样例 名称 连接的名称,根据连接的数据源类型,用户可自定义便于记忆、区分的连接名。 kafka_link Manager IP MRS

    来自:帮助中心

    查看更多 →

  • 配置Kafka/DMS Kafka源端参数

    配置Kafka/DMS Kafka源端参数 作业中源连接为Kafka连接或DMS Kafka连接时,源端作业参数如表1所示。 表1 Kafka作为源端时的作业参数 参数类型 参数 说明 取值样例 基本参数 Topics 支持单个或多个topic。 est1,est2 数据格式 解析数据时使用的格式:

    来自:帮助中心

    查看更多 →

  • 配置DMS Kafka连接

    配置DMS Kafka连接 连接DMS的Kafka队列时,相关参数如表1所示。 表1 DMS Kafka连接参数 参数名 说明 取值样例 名称 连接的名称,根据连接的数据源类型,用户可自定义便于记忆、区分的连接名。 dms_link 服务类型 选择DMS Kafka版本,目前只有专享版。

    来自:帮助中心

    查看更多 →

  • 配置DMS Kafka连接

    配置DMS Kafka连接 连接DMS的Kafka队列时,相关参数如表1所示。 表1 DMS Kafka连接参数 参数名 说明 取值样例 名称 连接的名称,根据连接的数据源类型,用户可自定义便于记忆、区分的连接名。 dms_link 服务类型 选择DMS Kafka版本,目前只有专享版。

    来自:帮助中心

    查看更多 →

  • 配置Kafka后进先出

    配置Kafka后进先出 配置场景 当Spark Streaming应用与Kafka对接,Spark Streaming应用异常终止并从checkpoint恢复重启后,对于进入Kafka数据的任务,系统默认优先处理应用终止前(A段时间)未完成的任务和应用终止到重启完成这段时间内(B

    来自:帮助中心

    查看更多 →

  • 配置Kafka后进先出

    配置Kafka后进先出 配置场景 当Spark Streaming应用与Kafka对接,Spark Streaming应用异常终止并从checkpoint恢复重启后,对于进入Kafka数据的任务,系统默认优先处理应用终止前(A段时间)未完成的任务和应用终止到重启完成这段时间内(B

    来自:帮助中心

    查看更多 →

  • 配置Kafka数据传输加密

    Manager系统中,选择“集群 > 待操作集群的名称 > 服务 > Kafka > 配置”,展开“全部配置”页签。在搜索框中输入参数名称。 配置后应重启对应服务使参数生效。 Kafka服务端的传输加密相关配置参数如表1所示。 表1 Kafka服务端传输加密参数 配置项 描述 默认值 ssl.mode.enable

    来自:帮助中心

    查看更多 →

  • MRS Kafka对接Kafka Eagle

    “cluster1.zk.list”的值是Kafka组件参数“metrics.reporter.zookeeper.url”的值,具体可通过登录FusionInsight Manager,选择“集群 > 服务 > Kafka > 配置 > 全部配置”搜索参数“metrics.reporter

    来自:帮助中心

    查看更多 →

  • 配置Kafka日志推送策略

    成有序消息队列使用。如果Key为空,则消息分布式存储在不同的消息分区。 失败重试分配 日志推送到Kafka失败后的重试配置。 重试次数:失败后的重试次数,范围为0-5次。 重试间隔时间:失败后的重试时间间隔,范围为1-10秒。 SASL配置信息 安全协议 连接目标Kafka所使用的安全协议。

    来自:帮助中心

    查看更多 →

  • 使用Kafka

    Kafka节点内数据迁移 Kafka配置内外网访问 Kafka常见问题

    来自:帮助中心

    查看更多 →

  • 分布式消息(Kafka)

    分布式消息Kafka分布式消息Kafka)连接器包含“Topic列表”、“发送数据”、“指定分区发送”三个执行动作和“消费消息”一个触发事件。 连接参数 创建分布式Kafka)连接时连接参数说明如表1所示。如果需要连接的Kafka配置了IP地址白名单限制,则需要放通 集成工作台 公网出口访问地址“124

    来自:帮助中心

    查看更多 →

  • 配置对接Kafka可靠性

    配置对接Kafka可靠性 配置场景 Spark Streaming对接Kafka时,当Spark Streaming应用重启后,应用根据上一次读取的topic offset作为起始位置和当前topic最新的offset作为结束位置从Kafka上读取数据的。 Kafka服务的top

    来自:帮助中心

    查看更多 →

  • 配置MRS Kafka数据连接

    配置MRS Kafka数据连接 表1 MRS Kafka数据连接 参数 是否必选 说明 数据连接类型 是 MRS Kafka连接固定选择为MapReduce服务(MRS Kafka)。 数据连接名称 是 数据连接的名称,只能包含字母、数字、下划线和中划线,且长度不超过100个字符。

    来自:帮助中心

    查看更多 →

  • Kafka

    Kafka Kafka jar包冲突列表 Jar包名称 描述 kafka_2.11-*.jar 连接Kafka服务必须的jar包。 kafka-clients-*.jar 连接Kafka服务必须的jar包。 解决方案 Kafka不建议使用开源版本的包。 父主题: 使用开源jar包冲突列表

    来自:帮助中心

    查看更多 →

  • Kafka

    Kafka Kafka基本原理 Kafka与其他组件的关系 Kafka开源增强特性 父主题: 组件介绍

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了